Google 一直試圖通過人工智能為搜尋引擎領域帶來革命，但其在最新功能上線前卻鬧出了烏龍：建議用戶通過飲用「淺色」尿液來快速排出體內的腎結石。
在其前身「搜尋生成式體驗」 （Search Generative Experience，SGE））時期，該人工智能功能就因給出荒謬的醫療建議而引發爭議。現在，它已更名為「AI 摘要」（AI Overviews），並在美國率先上線，計劃向全球推廣。然而，在上線前夕，類似的錯誤建議再次被用戶發現。
不同於以往只顯示網站鏈接的搜尋結果摘要，「AI 摘要」突破了這一模式，通過人工智能技術直接對搜尋結果進行總結，為用戶直接提供答案。然而，由於人工智能技術仍處於發展階段，「AI 摘要」相比傳統搜尋結果摘要，更容易產生偏差，可能會誤將錯誤的信息當作事實，並毫無疑問地展示給用戶。
「AI 摘要」在測試階段後進行了調整，現在出現次數減少，引用來源更為頻繁，篇幅也更加精簡。但由於仍然側重於「如何做」的內容，「AI 摘要」仍然存在自信地給出錯誤信息的可能性。
用戶現在還不能直接禁用「AI 摘要」功能。強制 Google 只提供網絡搜尋結果並跳過 AI 生成的摘要雖然可行，但這同時也會導致我們無法查看任何影片或圖片相關的搜尋結果。
