Google AI搜尋亂象:幻覺摘要引網友熱議與檢驗

Featured Image
Google AI Overview 發佈後,立即引起了眾多問題和爭議。許多用戶發現,AI Overview 在回答問題時常常給出錯誤或荒謬的答案,這使得人們對於這一功能的可靠性產生了質疑。雖然Google回應稱AI Overview提供的絕大多數訊息都是正確的,但這些「翻車」事件無疑對Google的形象造成了一定的影響。

AI搜尋的幻覺問題並非新鮮事。大型語言模型的基本原理是利用預測下一個單詞或短語生成機率最大的內容,這可能導致選擇不正確但看似合理的詞語,進而產生虛假訊息或「幻覺」。即使使用了檢索增強生成(RAG)等技術,限制回答問題的範圍,也只能抑制幻覺,而無法根治幻覺。

此外,AI搜尋所引用的內容來源本身的可信度也存疑。例如,AI Overview使用的Reddit內容是由網友貢獻的,而非權威媒體。這也引發了垃圾進垃圾出的擔憂。

然而,AI搜尋還有許多潛在的可能性。Google希望通過AI搜尋實現搜尋的可視化、互動性和個性化,用人話而非關鍵字溝通,以節省查詢內容的時間,並回答更複雜和具體的問題。雖然AI搜尋還存在一些問題,但它仍然具有很大的發展空間和應用價值。

總的來說,AI搜尋的幻覺問題是一個公開的秘密,並非Google獨有。作為AI巨頭,Google在AI搜尋出現問題時必須承擔更大的責任。同時,用戶也應該對AI搜尋的能力有一定的理解和期待,並在使用時謹慎判斷和核實信息。

Share this content: