Google AI Overview大翻車:搜尋結果荒謬背後的AI幻覺危機

Featured Image
2023年2月,Google AI Overview推出了一項名為AI Overview的功能,該功能在網頁頂部生成綜合多個內容來源的摘要,並附帶連結。然而,這項功能很快在美國用戶中引起了爭議。一些用戶發現AI Overview生成的摘要含有事實錯誤或荒謬的回答。例如,Google建議在自製披薩的醬汁中添加膠水以防止奶酪掉下來,這明顯是錯誤的建議。AI Overview還從Reddit等來源獲取內容,但這些內容的可信度存疑。AI Overview的幻覺問題暴露了大型語言模型的固有特點,它們基於預測下一個單詞或短語的機率來生成內容,有時會選擇看似合理但不正確的詞語。

Google對AI Overview的問題做出了回應,表示大部分提供的訊息仍然正確,並提供了有用的連結供用戶深入了解。然而,一些用戶擔心AI Overview的幻覺問題可能會誤導那些不熟悉AI的用戶。此外,AI搜尋也在微軟的New Bing等產品中遇到了類似的問題。

Google在AI搜尋領域被炎上的次數較多,這可能是因為Google作為搜尋的代名詞,外界對其期望值較高。與此相對,一些小型公司更謙虛,並且不像Google那樣承擔如此高的期望。AI搜尋也改變了使用者的認知,現在人們說「讓Google為你進行搜尋」,而不再是「用Google搜尋」,這表明人們對AI回答問題的依賴程度增加了。

AI搜尋提供了更多可能性,例如可以進行多步推理,回答更複雜和具體的問題,甚至可以規劃行程。然而,AI搜尋的幻覺問題還未得到解決,並且在發布會上展示的效果與實際情況存在差距。Google希望用戶不要只把AI搜尋當作簡單的總結,而應該看到AI搜尋的其他潛力。

總的來說,AI搜尋的幻覺問題是大型語言模型固有的特點,並且內容來源的可信度也存在問題。然而,AI搜尋仍然具備許多潛力,並且可以通過改進和限制問題範圍來減少幻覺的發生。使用者在使用AI搜尋時,可以採取一些安全措施,例如使用生成式AI時,同時使用傳統的Google搜尋進行檢查。

Share this content: