Google AI搜尋失準: 幻覺亂象引網友熱議與改進呼聲

Featured Image
近期,Google 的 AI 搜尋功能 AI Overview 遭遇了一些問題,被指出存在幻覺和事實錯誤的情況。這一功能在 Google I/O 大會上首次亮相,被宣稱能夠生成綜合多個內容來源的摘要,並提供相關連結。然而,不久之後,AI Overview 就被發現存在一些問題。

AI Overview 首先在美國用戶中推出,但很快就引起了不少爭議。有用戶發現,AI Overview 提供的回答中有一些明顯的錯誤,甚至包含了虛假信息。例如,有用戶詢問如何修復卡住的底片相機,AI Overview 的回答是打開相機蓋並輕輕地取下底片,但這實際上會導致底片損壞。此外,AI Overview 還被指出生成一些荒謬的回答,例如前總統從威斯康辛大學畢業了 21 次,一隻狗曾在 NBA、NFL 和 NHL 打過球,蝙蝠俠是一名警察等。

這些問題引起了網友的關注,一些人甚至將這些荒謬的回答發到社交媒體上進行分享和嘲笑。Google 雖然對此做出了回應,表示大部分 AI Overview 提供的訊息還是正確的,並提供了有用的連結供使用者進一步瞭解。然而,這些回應並未完全解決問題,也未能平息用戶的不滿情緒。

AI Overview 的問題是由於其運作方式所導致的。AI Overview 使用了大型語言模型生成回答,並結合了網際網路的連結來支持這些回答。然而,大型語言模型並不一定能夠準確理解事實,有時候可能會生成看似合理但不正確的回答,這就導致了虛假訊息或者所謂的「幻覺」。AI Overview 的回答也依賴於網際網路上的內容來源,這些內容的準確性和可信度也存在一定問題。

此外,AI Overview 在 Reddit 等網站上發現的內容作為訓練材料,這也引發了對於內容來源可靠性的質疑。儘管 Google 與 Reddit 達成了協議,但仍有人擔憂這樣的合作可能導致垃圾信息被納入訓練材料,進而影響 AI 搜尋的準確性。

AI 搜尋的幻覺問題並不僅限於 Google,微軟的 New Bing 也曾發生類似的問題。這些問題提醒我們,AI 搜尋並不是完美的,它們可能會犯錯。因此,在使用 AI 搜尋時,我們應該保持謹慎,並進行自己的驗證和查證。同時,對於這些問題,我們應該更加理性地看待,不要過分依賴 AI 搜尋的回答。

此次問題的發生也提醒我們,AI 搜尋仍然面臨著一些挑戰和難題。然而,這些問題並不意味著 AI 搜尋是一無是處的。相反,AI 搜尋在提供事實之外,還有許多潛在的應用和可能性。例如,AI 搜尋可以用於創作、研究、規劃等領域,並能夠回答更加複雜和具體的問題,這是傳統搜尋所無法實現的。

總結來說,AI 搜尋的幻覺問題提醒我們,對於 AI 技術的應用和限制,我們應該保持謹慎和理性的態度。同時,我們也應該對 AI 搜尋的潛力保持開放的態度,並期待在未來的發展中,AI 搜尋能夠更加穩定和準確地為我們提供有用的信息和回答。

注意:本文根據原始文本進行了編輯和優化,以符合 SEO 的要求。

Share this content: