Google AI搜尋翻車?網友揭露搜索引擎荒謬回答多

Featured Image
福無雙至,禍不單行,Google 再次出現翻車事件。2023 年 2 月,Google Bard 試圖追趕 ChatGPT,卻在事實上犯下錯誤;同年 12 月,Gemini 在像賈維斯一樣自信地進行演講,但事實上影片已經過後製;2024 年 2 月,Gemini 生成了具有不同膚色的歷史人物,引起了對白人的歧視指責。這次 Google 的核心技術——搜尋引擎也遭到了厄運的襲擊。網友們紛紛上傳了一些 Google AI 的失誤截圖,引起了熱烈的討論。

眾所周知,Google I/O 2024 剛剛結束,AI Overview 是其中一個新功能。顧名思義,AI Overview 會在搜索結果頂部生成多個來源的摘要,並附上相關鏈接。Google 對 AI Overview 抱有很大的信心,宣布它將立即在美國全境推出,並計劃在年底前擴展到超過 10 億用戶。

然而,AI Overview 並沒有持續多久就出現了問題。比如,如果你在搜索“做披薩但乳酪容易掉下來怎麼辦?”時,Google 建議在醬汁中添加大約八分之一杯的膠水。特別強調這是無毒的,原因令人感動。然而,這個建議並不是來自 Google AI,而是從 11 年前的 Reddit 留言中提取的。不幸的是,AI 無法理解人類的幽默。

另一個例子是,當你問 AI 每天應該吃多少石頭來補充營養時,AI 卻一本正經地回答說根據加州大學柏克萊分校地質學家的說法,每天至少應該吃一塊小石頭以攝取維生素和礦物質。這個答案的來源是一篇 2021 年的「報導」,來自以假新聞和諷刺文聞名的洋蔥新聞。此外,AI Overview 還在美國歷史方面出現了問題,把歐巴馬誤認為第一位穆斯林總統。這些錯誤的回答在社交平台上引起了熱議,人們一起晒出各自的 Google AI 回答。

Google 解釋說,大部分 AI Overview 提供的資訊都是正確的,並提供有效的連結供用戶進一步了解。許多「翻車」的例子並不常見,無法重現甚至被篡改。例如,有一張廣泛流傳的截圖顯示治療憂鬱症的方法是跳下金門大橋一了百了。Google 特別解釋這是假的,因為這關係到人命。Google 將這些錯誤視為改進 AI 的機會,這是一個現成的人類回饋強化學習(RLHF)的機會。一些敏銳的網友還發現在 I/O 2024 演示中也有錯誤,只是不太明顯。例如,當你問 Google 如何修復卡住的底片相機時,Google 建議你打開背蓋並輕輕取下底片,但這樣做會破壞整捲的底片。

Google 似乎不是第一次在受到關注的場合犯錯。2023 年 2 月,Google 在展示 Bard 時聲稱詹姆斯韋伯太空望遠鏡是第一個拍攝到太陽系外行星的望遠鏡,但實際上第一張太陽系外行星圖片是在 2004 年拍攝的。這樣的一個錯誤讓 Google 的市值蒸發了數千億美元。

除了 AI Overview 出錯,還有一個問題是這個功能很難關閉。一些開發者開始開發外掛,強制只顯示傳統的搜索結果。缺乏方便的退出機制是 Google 的失誤,因為 AI Overview 基於傳統搜索,使用者量非常大。如果有不熟悉 AI 的使用者盲目相信結果並被誤導,後果將非常可怕。

有人問道:“Google 的錯誤率為何高達 30%?”AI Overview 出現問題並不令人驚訝,AI 犯錯一直都是公開的秘密。例如,“吸菸有害健康”這樣的標語,AI Overview 的底部也有標註:“生成式 AI 只是實驗性的”。ChatGPT 也在小字中提醒用戶:“可能會犯錯。請核查重要資訊。”大型語言模型的基本原理是預測下一個單詞或片語的機率最高,有時可能選擇了不正確但合理的詞語,導致假資訊或“幻覺”。AI Overview 的胡言亂語就是其中一種幻覺,它結合了大型語言模型生成的句子和網絡連結,雖然可以引用來源,但無法保證準確性。即使是 RAG(檢索增強生成)技術,結合了檢索系統和模型,限制了回答的範圍,也只能抑制幻覺,無法根除。

此外,來源的可信度本來就存在疑問。Reddit 是由網友貢獻內容的平台,並不是權威媒體。在 2 月份,Google 和 Reddit

Share this content: