大模型「幻觉」，看这一篇就够了 | 哈工大华为出品

AIGC动态欢迎阅读

原标题：大模型「幻觉」，看这一篇就够了 | 哈工大华为出品

关键字：幻觉,模型,上下文,小米,华为

文章来源：量子位

内容字数：7309字

内容摘要：西风 发自 凹非寺量子位 | 公众号 QbitAI大模型“幻觉”，终于有系统综述了！一口气49页，详细阐述了幻觉定义、分类、导致幻觉的原因，还有检测幻觉、减轻幻觉的方法。这篇最新综述来自哈工大和华为，一po出就在网上火得不行：具体来说，文中用一套新的范畴框架来定义模型幻觉，并将其分为事实性幻觉、忠实性幻觉两大类。此外，它还总结了模型产生幻觉的三大来源：数据源、训练过程和推理，并给出了对应的减轻幻觉策略。一图预览，观感是这样婶儿的：可谓清晰又明了。目前相关推文浏览15万+，转赞收藏2000+，网友纷纷评论：找时间好好看。还有一位网友的评论亮了：有意思的是，论文太长，我得用ChatGPT帮我读。幻觉作为大模型的一种“通病”，找到了病根，也好对症下药。北大数学教授董彬也曾讲，作为研究者，自己其实是比较喜欢大模型幻觉的：因为幻觉和创造/创新其实只有一线之隔。那么这篇综述具体如何解剖大模型幻觉现象？…

原文链接：点此阅读原文：大模型「幻觉」，看这一篇就够了 | 哈工大华为出品

联系作者

文章来源：量子位

作者微信：QbitAI

作者简介：追踪人工智能新趋势，关注科技行业新突破