“`html
AI的雙刃劍：揭開NIST GenAI計劃的面紗
當今社會，人們對於AI的擔憂與期待正如同對待魔法一般——既著迷又畏懼。美國標準技術研究院（NIST）近日發佈了一項名為NIST GenAI的新計劃，仿佛一位魔法師，揮舞著魔杖，準備對抗那些混淆真偽的AI術語。
這個計劃的重點在於，它不僅僅是對創造性AI技術進行基準測試，更是在於建立一套“內容真實性”檢測系統，以識別那些或虛假或誤導的AI生成信息。這個劍客般的計劃，其首個任務是建立一個能夠可靠分辨人類創造與AI生成媒體的系統，並且首先從文本開始。
當然，現如今市面上宣稱能夠檢測出深度偽造文本（deepfake）的服務已多如牛毛，但它們在真正檢測文本方面的可靠性卻是岌岌可危。NIST GenAI邀請來自學術界、工業界和研究實驗室的團隊提交“生成器”——用於生成內容的AI系統，或是“鑒別器”——旨在識別AI生成內容的系統。
這些參與的生成器需要在提供的主題和文檔集內，生成不超過250字的摘要，而鑒別器則必須檢測出這些摘要是否可能是AI所寫。此外，為了確保公平性，NIST GenAI會提供必要的數據以測試這些生成器。然而，那些僅僅依靠公開可用數據訓練且不符合法律法規的系統將無法被接受。
這一切的背後，是AI生成的假消息和誤導性信息呈指數級增長的擔憂。根據某檢測公司的數據，今年與去年同期相比，製作和發布的深度偽造內容增加了900％。這讓人感到擔憂，也是合理的。近期的一項民意調查顯示，有85％的美國人擔心誤導性深度偽造內容在線傳播。
但讓我們不要忘了，AI像一把雙刃劍，既有創造之美，也有破壞之威。NIST GenAI計劃的推出，是NIST對於總統喬·拜登有關AI的行政命令的回應，該命令要求AI公司對其模型的運作提供更多透明度，並建立了一系列新標準，包括對AI生成內容的標記。
此外，這還是自Paul Christiano——一位前OpenAI研究員，被任命為該機構AI安全研究所所長後，NIST發布的首個與AI相關的公告。Christiano因其“末日論”觀點而具有爭議性；他曾預測“AI發展有50%的機會導致人類毀滅”。他的這一觀點，引起了包括NIST內部科學家在內的批評者的擔憂，他們擔心Christiano可能會鼓勵AI安全研究所專注於“幻想情景”而非更現實、更迫在眉睫的AI風險。
NIST聲稱NIST GenAI將為AI安全研究所的工作提供信息。在這個AI發展的奇幻旅程中，我們似乎既是旁觀者，又是參與者。不過別擔心，這不過是一場由數據編織的幻影，真實的世界仍然等待著我們去探索和改變。NIST GenAI，或許就是我們揭開幻影，尋找真相的一把鑰匙。
“`
Share this content:
