Google AI搜尋失準?SEO專家揭露「幻覺」風波內幕

Featured Image
Google I/O 大會推出的 AI Overview 功能,原本被認為是一項擁有巨大潛力的創新,但卻在初次推出時遭遇了一系列問題。AI Overview 的功能是在搜尋結果頂部生成綜合多個內容來源的摘要,並附上相關連結。然而,這一功能在美國用戶中的表現並不理想,出現了一些幻覺和錯誤的情況。

Google AI 的這一失誤引起了不少熱議,許多網友開始曬出了一些荒謬的 AI Overview 回答,比如說一位網友問如何修復卡住的底片相機,AI 回答是打開相機蓋並輕輕取下底片,這個操作實際上會直接毀掉整卷底片。這些例子顯示出 AI Overview 在回答一些不常見的問題時存在問題,無法提供正確和可靠的答案。

Google 雖然對這些問題進行了回應,表示大部分 AI Overview 的結果仍然是正確的,並提供了有用的連結供用戶深入瞭解。然而,這些回應並未能完全解決問題,也未能改變 AI Overview 的失敗形象。

這次 AI Overview 的失敗不僅僅是 Google AI 自身的問題,也涉及到了 AI 技術的本質。AI 模型的基本原理是通過預測下一個單詞或短語來生成最可能出現的內容,有時候可能會選擇不正確但看似合理的詞語,這就導致了虛假訊息或者所謂的「幻覺」。AI Overview 的胡言亂語也是幻覺的表現,它結合了大型語言模型生成的語句和網際網路的連結,可以引用內容來源,但無法保證這些引用內容的準確性。

此外,AI Overview 使用的內容來源本身的可信度也存在問題。比如 Reddit 這樣的網路論壇,其內容由網友貢獻,並非權威媒體。Google 曾與 Reddit

Share this content: