Google搜尋AI失準:機智網友揭幻覺,安全應對策略大公開

Featured Image
Google AI Overview 幻覺 AI的問題已經被曝光,這並不是什麼新鮮事。AI總是會犯錯,這早已是公開的秘密。AI Overview和ChatGPT一樣,都有可能犯錯。大型語言模型的基本原理是利用機率最大的內容來生成下一個單詞或短語,有時會選擇不正確但看似合理的詞語,這就導致了虛假訊息或所謂的「幻覺」。AI Overview的胡言亂語也是幻覺的表現,它結合了大型語言模型生成的語句和網際網路的連結,可以引用內容來源,但無法保證這些引用內容的準確。即使使用了檢索增強生成(RAG)等技術,限制回答問題的範圍,也只能抑制幻覺,而無法完全消除幻覺。

AI Overview的問題不僅僅在於它本身的犯錯,還在於內容來源的可信度。比如,Reddit這個社交媒體平台是由網友貢獻內容,而非權威媒體。Google與Reddit達成協議,將其內容用於訓練AI模型,這引起了人們對「垃圾進,垃圾出」的擔憂。此外,AI搜尋還導致了使用者認知上的轉變。過去,我們說「用Google搜尋」,而現在,Google自己用AI回答我們的問題。這使得傳播錯誤內容的矛頭轉移到了Google身上。

然而,我們還是應該換個角度看待AI搜尋。AI搜尋並不一定是瞭解事實的最佳管道,但這不代表大型語言模型是個廢柴。AI搜尋還有很多其他應用,比如創造詩歌、引入搜尋等。Google的思路是讓搜尋更加可視化、更有互動性和個性化,用人話而非關鍵字溝通,節省查詢內容的時間,並且回答更加複雜和具體的問題。

儘管AI搜尋存在幻覺問題,但這並不能否定其潛力和價值。相比於傳統搜尋,AI搜尋能夠進行更多的研究、創作、規劃、創意發想等。當然,使用者還是需要謹慎對待AI搜尋的結果,並在需要時進行進一步的查證。AI搜尋的發展仍然需要時間和努力,但它已經在為我們提供更好的搜尋體驗和更多的可能性。

值得一提的是,對於SEO優化,我們需要通過微調文章內容來去除AI生成的痕跡。同時,我們還需要使用SEO友好的方式進行優化,以提高搜尋引擎的收錄和搜尋排名,從而獲得更多來自搜尋引擎的流量。

Share this content: