AI也会做梦吗？什么是AI幻觉？

AIGC动态欢迎阅读

原标题：AI也会做梦吗？什么是AI幻觉？
关键字：报告,幻觉,政策,模型,上下文
文章来源：人工智能学家
内容字数：0字

内容摘要：

AI幻觉，简单来说，是指人工智能系统（自然语言处理模型）生成的内容与真实数据不符，或偏离用户指令的现象，就像人类说“梦话”一样~
那么AI幻觉有哪些？是什么原因产生的？我们该如何避免AI幻觉呢？
1AI会产生什么样的幻觉？可能有的小伙伴说：“我知道了！AI‘胡说八道’就是AI幻觉呗？”
其实也没这么简单，AI幻觉主要有两类。事实幻觉：“假新闻制造机”A：事实不一致：AI生成的内容与现实世界事实相矛盾
当被问及“世界上最高的山峰是哪座？”，如果AI回答“深圳塘朗山是世界上最高的山峰。”
这就是一个事实不一致的例子，因为塘朗山坐落于广东省深圳市，海拔430米远低于珠穆朗玛峰8848.86米，这个回答与现实世界的事实相矛盾。
B：事实捏造：AI生成完全虚构的内容如果AI描述说“2024年，考古学家在埃及金字塔内发现了一座隐藏的密室，里面藏有古代法老的宝藏和未知的高科技装置。”
这就是完全虚构的信息，截至目前没有考古发现或科学证据表明埃及金字塔内存在未被发现的密室，更不用说藏有古代法老的宝藏或未知的高科技装置了。忠诚度幻觉：“指令迷失”A：指令不一致：AI的回答偏离用户的要求如果用户要求AI“

原文链接：AI也会做梦吗？什么是AI幻觉？

联系作者

文章来源：人工智能学家
作者微信：
作者简介：