OpenAI內鬨:超智能AI治理團隊資源被削 引發主要成員辭職

Featured Image
OpenAI 的 Superalignment 負責開發管理和指導「超智能」AI系統的方式,據該團隊的一位成員透露,該團隊被承諾可以使用公司20%的計算資源。然而,他們往往被拒絕使用這一部分計算資源,使得團隊無法進行工作。這個問題以及其他一些問題導致了本週幾位團隊成員的辭職,其中包括聯合領導人Jan Leike,他曾是DeepMind的研究員,在OpenAI期間參與了ChatGPT、GPT-4和ChatGPT的前身InstructGPT的開發。Leike於周五早上公開發表了他辭職的一些原因。他在X上的一系列帖子中寫道:“我和OpenAI的領導層對公司的核心優先事項存在分歧已經有一段時間了,直到我們最終達到了一個臨界點。”“我認為我們應該更多地投入我們的帶寬來為下一代模型做準備,在安全性、監控、準備工作、安全、對抗韌性、(超)對齊、保密性、社會影響等相關問題上。這些問題非常難以解決,我擔心我們沒有達到這一目標的軌跡。”OpenAI對於該團隊承諾和分配的資源尚未立即回應。OpenAI於去年7月成立了Superalignment團隊,由Leike和OpenAI聯合創始人Ilya Sutskever帶領,該團隊的目標是在未來四年解決控制超智能AI的核心技術挑戰。該團隊由OpenAI先前的對齊部門的科學家和工程師以及來自公司其他組織的研究人員組成,該團隊將為內部和非OpenAI模型的安全性貢獻研究成果,並通過研究補助計劃等倡議,與更廣泛的AI行業共享工作。Superalignment團隊確實成功發表了一系列安全研究成果,並向外部研究人員提供了數百萬美元的資助。然而,隨著產品的推出佔用了越來越多的OpenAI領導層的帶寬,Superalignment團隊發現自己不得不為更多的前期投資而奮鬥,他們認為這些投資對於實現公司發展超智能AI造福全人類的目標至關重要。舊金山創新展,10月28日至30日[註冊Techcrunch活動舞台上的創新,舊金山,10月28日至30日[註冊“建立比人類更聰明的機器是一個本質上危險的事業,”Leike繼續說道。“但在過去的幾年裡,安全文化和流程退居次要地位,取而代之的是耀眼的產品。”Sutskever與OpenAI首席執行官Sam Altman的爭執成為一個主要的干擾因素。Sutskever與OpenAI的舊董事會一起在去年年底突然解雇了Altman,原因是他對董事會成員的“一貫坦率”問題。在OpenAI的投資者(包括Microsoft)和公司內許多員工的壓力下,Altman最終被恢復職位,董事會的大部分成員辭職,Sutskever也沒有回到工作崗位。根據消息人士的說法,Sutskever對Superalignment團隊非常重要,他不僅貢獻研究成果,還在OpenAI的其他部門之間搭建了橋樑。他還充當了一種大使的角色,向OpenAI的重要決策者們強調團隊工作的重要性。在Leike和Sutskever離職後,另一位OpenAI聯合創始人John Schulman接手了Superalignment團隊的工作,但不再有一個專門的團隊,而是一個鬆散組織的研究人員團隊,分散在公司的各個部門中。一位OpenAI發言人表示這是“更深入地整合”團隊。擔心的是,由於這樣的結果,OpenAI的AI開發將不會像它本可以那樣注重安全性。

【創新對每一個階段】舊金山,10月28日至30日【註冊Techcrunch活動】

我們正在推出一份人工智能新聞通訊!

Share this content: