在上周的年度I/O开发者大会中，谷歌高调宣布正式将AI功能引入核心搜索业务，推出一款名叫“AI概览”（AI Overviews）功能，首先会在美国市场推出。简而言之，当用户进行搜索时，首先出现在眼前的不再是网页链接，而是一块由AI整理的。
（来源：谷歌I/O）
然而，这项功能一上线就“翻车”了——除了AI聊天机器人常见的“幻觉”外，更严重的问题是，谷歌的AI频频把“贴吧”、讽刺新闻网站里的玩笑话，当作正儿八经的知识普及给用户。
在披萨上浇点胶水吧！
作为这几天互联网上传播最广的案例，谷歌“AI综述”在回答“芝士无法粘在披萨饼上”时，竟然建议在馅料里“加入八分之一杯的无毒胶水”。根据网友们的研究，这句话的出处是“美国贴吧”Reddit上，一名网友在十一年前颇为戏谑的回复。
（来源：X）
再举一个例子，当网友问“每天应该吃多少块石头”时，谷歌AI一本正经地回复称：“根据地质学家的研究，每天应该至少吃一块小石头。”
（来源：X）
这段话的表述来自于美国《洋葱报》，这家网站的主营业务就是依托真实的背景设定，杜撰出一系列夸张、讽刺的文章吸引眼球，也有不少事件完全是虚构的。所以资深网民一听到“洋葱新闻”就知道故事肯定不可信，但谷歌的AI却完全没有分辨能力。
更令美国网友“破防”的是，谷歌的AI连美国总统的信息都能搞错。例如有网友表示，当被问及 “美国有几位穆斯林总统”时，谷歌会回复称“1位，巴拉克·奥巴马”。令人担忧的是，这个答案不仅不是事实，而且来源大概率是一些极右翼团体在网络上传播的阴谋论。
除此之外，谷歌的AI还向网友建议“可以盯着太阳看5-15分钟，皮肤较黑的人可以最多盯着看30分钟”、并痛快地承认“谷歌违反了美国的反垄断法”、宣称“蝙蝠侠是一名警察”，以及“一只狗曾在 NBA、NFL等赛事中出场”等一系列荒谬的回答。
虽然AI聊天机器人给出错误回应并不稀罕，但上亿人常用的搜索引擎默认返回的答案质量如此离谱，迅速引发了互联网舆情。
谷歌似乎并不准备“撤回”
据科技媒体The Verge报道，谷歌发言人Meghann Farnsworth在一份声明中表示，互联网上提到的错误来自于“非常罕见的那类查询”，并不代表大多数人的体验。公司已经采取行动打击违反政策的行为，同时正在利用这些“孤例”继续完善产品。
谷歌也进一步表示，“AI概述”在绝大多数情况下都能提供高质量的信息，并附有详细的网页链接。公司同时表示，一些互联网上的案例无法复现，可能存在故意篡改的情况。
美国社会对谷歌AI的准确性质疑，有部分原因是因为有“前车之鉴”——今年2月谷歌高调推出Gemini“文生图”工具，但很快就被发现存在严重的“虚构历史”问题。舆论爆发后，谷歌马上宣布暂停生成人物图像，谷歌AI的负责人哈萨比斯曾在2月表示“几周内重新推出该功能”，至今也没有下文。
除了一系列错误外，谷歌“AI综述”也被指存在其他问题和风险。
例如AI总是摘抄来自不同网站的内容，并稍作修改，这种行为也被抨击为“规模化的剽窃”。
另一个问题是，由于谷歌公司的AI实质上是“自行搜索并撰写内容”，所以公司可能得为AI生成的不实内容承担法律责任。而此前根据《230条款》，谷歌作为搜索平台，并不需要对搜索出来的网页承担责任。
