AI時代風雲:OpenAI發布GPT-4o與安全團隊解散內幕

Featured Image
追趕如此快速發展的行業是一項艱巨的任務。所以在AI可以代替你之前,這裡有一個方便的概述,介紹了最近在機器學習領域的一些故事,以及我們未能單獨報導的重要研究和實驗。順便說一句,TechCrunch計劃很快推出一份AI新聞通訊。敬請期待。同時,我們將加快我們半定期的AI專欄的節奏,以前每月兩次(左右),現在每周一次,所以請密切留意更多的專欄文章。本周在AI領域,OpenAI再次在新聞界佔據主導地位(盡管Google竭盡全力),不僅推出了最強大的生成模型GPT-4o,而且在幾天後還解散了一個致力於開發控制“超智能”AI系統防止失控的團隊。可預見地,解散團隊引起了很多關注。報導中暗示OpenAI為了推出前述的GPT-4o等新產品,而將團隊的安全研究降低了優先級,最終導致團隊的兩位聯合領導人Jan Leike和OpenAI聯合創始人Ilya Sutskever的離職。到目前為止,超智能AI更多是理論上的存在,還不清楚科技行業何時能夠取得必要的突破,創造出能夠完成人類任務的AI。但本周的報導似乎確認了一個觀點,即OpenAI的領導層,尤其是首席執行官Sam Altman,越來越傾向於將產品置於安全保障之上。據報導,Altman趕在去年11月OpenAI首次開發者大會上推出基於AI的功能,以此批評Sutskever。他還批評了喬治城大學安全與新興技術中心主任、OpenAI董事局前成員Helen Toner合著的一篇文章,該文章對OpenAI的安全方法提出了批評,甚至試圖將她逐出董事局。在過去的一年左右時間裡,OpenAI的聊天機器人商店充斥著[充滿了](據稱)從平台的服務條款中[進行刮取]的數據,並表達了讓其AI生成描繪暴力和恐怖場景的野心。顯然,安全性在該公司中已經被忽視,越來越多的OpenAI安全研究人員得出結論,他們的工作在其他地方得到的支持更好。創新涵蓋各個階段 旧金山,10月28-30日[注册Techcrunch活动创新涵盖各个阶段 旧金山,10月28-30日[在此注册以下是最近一段時間其他有關AI的故事 * **[OpenAI + 在其他OpenAI的消息中,該公司與Reddit達成了一項協議,使用該社交網站的數據進行AI模型訓練。華爾街對這項交易表示熱烈歡迎,但Reddit用戶可能不那麼高興。 * [**Google的 Google在本週舉辦了年度I/O開發者大會,期間推出了許多AI產品。從生成視頻的Veo到Google搜索中的AI組織結果,再到Google的Gemini聊天機器人應用程式的升級,我們為您整理了一下。 * [**Anthropic聘請了Instagram的共同創始人之一Mike Krieger,他最近還是個性化新聞應用程式共同創始人(TechCrunch的母公司雅虎最近收購了該應用程式),作為該公司的首席產品官。他將監督該公司的消費者和企業業務。 * **[AI for Anthropic上週宣布,將開始允許開發人員基於其AI模型創建針對兒童的應用程式和工具,前提是他們遵守一定的規則。值得注意的是,像Google這樣的競爭對手禁止將其AI集成到針對年輕人的應用程式中。 * [**AI電影AI初創公司Runway在本月初舉辦了第二屆AI電影節。結論 這次展示中一些更有力的時刻來自於人性的元素,而非AI。更多的機器學習———————-顯而易見,AI安全是最重要的

Share this content: