谷歌AI搜索闯大祸！建议网友吃石头、毒蘑菇，把胶水加到披萨上，评论区炸了

AIGC动态欢迎阅读

原标题：谷歌AI搜索闯大祸！建议网友吃石头、毒蘑菇，把胶水加到披萨上，评论区炸了
关键字：网友,胶水,产品,数据,用户
文章来源：量子位
内容字数：3923字

内容摘要：

梦晨发自凹非寺量子位 | 公众号 QbitAI谷歌AI又闯大祸！
没认出毒蘑菇、建议用户吃石头、把胶水加到披萨上，瞬间招来海量批评。
事情是这样的：
有网友在谷歌搜索寻找“芝士和披萨粘不到一块”的解决办法。AI直接在顶部给出总结指导，看似有模有样，却暗藏陷阱。
你还可以把1/8杯的无毒胶水加到酱料里，使其更黏。
本来大家还只当是寻常的“AI幻觉”问题，毕竟都加胶水了确实黏啊，逻辑没毛病。
真正引爆舆论焦点的，是有人挖出这个建议确实有出处：
来自11年前网友在“美国贴吧”Reddit论坛披萨板块的恶搞留言。
对比原文，可以看出谷歌Gemini大模型确实出色地总结精简了网友发言，去掉不必要的细节融合进回答中。
但关键在于缺乏常识，没有识别出网友恶搞的意图，当真了。
大家批评的另一个点在于，问题出现在谷歌最核心、使用量最大的搜索产品上，而不是专门的AI对话。
如果是一个不熟悉AI技术，不了解AI会出现“幻觉”的普通搜索用户遇到这事，就更容易被AI骗到。
当然，具体到披萨+胶水这个例子因为过于离谱，大部分人都不会当真。
但也有人马上举出谷歌Gemini更多、更危险的失误：
建议用户每天至少

原文链接：谷歌AI搜索闯大祸！建议网友吃石头、毒蘑菇，把胶水加到披萨上，评论区炸了