Google 上個月於年度 I/O 開發者大會上推出了 AI Overviews，由 AI 來摘要網路資訊以作為使用者的搜尋結果，但功能上線一週後，許多網友紛紛貼出 AI Overviews 給出的錯誤答案，像是建議在披薩上加膠水和每天吃一塊石頭等。

對此 Google 於官方部落格給出了正式回應，解釋 AI Overviews 奇怪答案的由來，以及公司將如何持續做出改進。

Google 表示 AI Overviews 並不會像其他 LLM 一樣編造內容，因此是不會產生幻覺的，其會出錯是因 Google 誤解了使用者的搜尋字眼，或網路上沒有大量可用資訊。

Google 也提到「數據空白」（data void）問題，當使用者搜尋了一個從沒人查過的問題，網路上也沒有真正好的內容作為回覆，AI Overviews 這時會顯示唯一連結到該問題的網站，但該網站可能是帶有諷刺性內容。

Google 將進行改進如下：AI 會更準確偵測到荒謬的搜尋，對這些問題不顯示 AI Overviews 摘要；限制了諷刺和幽默內容，以及限制使用使用者生成的誤導性建議；為 AI Overviews 無法提供幫助的查詢設定觸發限制；針對新聞、健康等主題，設置了更強的防護機制。

另外，Google 也指出許多使用者刻意搜尋少見的荒謬問題，只為了讓 AI 產生錯誤的結果，也有網友假造 AI Overviews 螢幕截圖，在照片中放上 AI 從未生成的結果，因此 Google 呼籲大家看到這些截圖時，可先自行去驗證。

：Jocelyn
：Chris

本文初稿為 INSIDE 使用 AI 編撰；快加入 INSIDE Google News 按下追蹤，給你最新、最 IN 的科技新聞！