北大团队：诱导大模型“幻觉”只需一串乱码！大小羊驼全中招

AIGC动态欢迎阅读

原标题：北大团队：诱导大模型“幻觉”只需一串乱码！大小羊驼全中招

关键字：知乎,幻觉,模型,语义,对数

文章来源：量子位

内容字数：3395字

内容摘要：kid 投稿自 凹非寺量子位 | 公众号 QbitAI北大团队最新研究发现：随机token都能诱发大模型出现幻觉！比如喂给大模型（Vicuna-7B）一段“乱码”，它就莫名其妙弄错了历史常识。或者是简单修改提示词，大模型也会掉入陷阱。Baichuan2-7B、InternLM-7B、ChatGLM、Ziya-LLaMA-7B、LLaMA-7B-chat、Vicuna-7B这些热门大模型，都会出现类…

原文链接：点此阅读原文：北大团队：诱导大模型“幻觉”只需一串乱码！大小羊驼全中招

联系作者

文章来源：量子位

作者微信：QbitAI

作者简介：追踪人工智能新趋势，关注科技行业新突破