搜尋引擎新挑戰:Google AI Overview翻車記

Featured Image
Google AI 在最近推出的 AI Overview 功能中遭遇了一些問題,這使得人們對於 AI 搜尋的可靠性產生了質疑。AI Overview 的出錯主要來自於生成式 AI 的特性,大型語言模型在生成答案時可能會選擇不正確但看似合理的詞語,導致了虛假訊息或者所謂的「幻覺」。

AI Overview 的胡言亂語也是幻覺的表現,它結合了大型語言模型生成的語句和網際網路的連結,可以引用內容來源,但不保證這些引用內容的準確。AI 搜尋的問題不僅僅在於模型本身的限制,也在於內容來源的可信度,例如 Reddit 等社群平台,其內容由網友貢獻,而非權威媒體。

AI 搜尋的幻覺問題並不是新問題,微軟的 New Bing 也曾出現過類似的問題。然而,由於 Google 作為搜尋的代名詞和 AI 巨擘,它必須承擔更大的責任和壓力。AI 搜尋在提供事實之外,還有很多可能性,例如創造詩歌、引入搜尋等,但這些功能還需要進一步的改進。

對於使用者來說,我們應該意識到 AI 搜尋的幻覺問題是固有的特性,並且調整我們的預期。在使用 AI 搜尋時,可以採取一些預防措施,例如使用傳統的 Google 搜尋進行檢查,以確保獲得準確的答案。

未來,Google 將繼續改進 AI 搜尋的功能,使其更加可視化、互動性和個性化,並能夠回答更加複雜和具體的問題。AI 搜尋的目標是節省用戶查詢內容的時間,並提供更多的研究、創作、規劃和創意發想的能力。然而,AI 搜尋的幻覺問題仍需解決,並需要用戶和開發者的共同努力。

Share this content: