OpenAI員工爆內幕:AI公司安全盲點恐致人類危機

Featured Image
2024年6月5日,一封公開信由OpenAI的現任和前任員工、以及一名Google DeepMind成員和一名前DeepMind研究員聯署發表,內容批評AI公司對產品安全的漠視,並要求確保員工舉報問題的權利,不對”吹哨者”報復。公開信的題為《警告權》(Right to Warn),強調AI技術帶來的嚴重風險,包括不平等、內容操縱、錯誤資訊和自動化系統失控等,嚴重者可能導致人類滅絕。

公開信批評AI公司在開發過程中缺乏監督,只重視目前的利益,同時壓制反對聲音。信中建議AI公司自願採納四項原則:不簽署或執行”禁止詆毀”協議、建立匿名舉報流程、鼓勵公開批評,以及在其他舉報方式失敗後不對分享風險相關資訊的員工進行報復。

這封公開信的聯署者包括OpenAI的現任和前任員工,以及一名Google DeepMind成員和一名前DeepMind研究員,共有11位AI專家。這封信的發表恰逢OpenAI高層人士變動後,成立新的安全團隊,顯示在OpenAI內部仍然有不少人對公司對AI安全把關不足的擔憂。未來如何平衡產品發展和社會責任,將會是AI開發公司都需要面對的課題。

以上內容摘自[Right to Warn](https://example.com)。

相關文章:
– [傳 Apple 為保險兩邊下注 iOS 18 或同時採用 OpenAI、Google](https://example.com)
– [Apple 加入 AI 戰場 發表 300 億參數 AI](https://example.com)

[Image]

關注我們:
– [Facebook](https://example.com)
– [Twitter](https://example.com)
– [Instagram](https://example.com)
– [YouTube](https://example.com)

Share this content: