幻觉不是缺陷反而是优势！OpenAI大神认为大模型是“造梦机”

AIGC动态欢迎阅读

原标题：幻觉不是缺陷反而是优势！OpenAI大神认为大模型是“造梦机”
关键字：幻觉,创造力,人类,问题,内容
文章来源：夕小瑶科技说
内容字数：4199字

内容摘要：

‍
‍夕小瑶科技说原创作者 | Tscom
通常情况下，人们对LLM产生的幻觉、虚假陈述等现象感到担忧，觉得有必要对这些LLM进一步优化以避免幻觉和虚假陈述等情况的产生。近日，OpenAI现任知名科学家、特斯拉前AI总监Andrej Karpathy在X（前推特）上发文表示，他不认为幻觉是LLM的一个缺陷；相反，这是LLM强大力量的体现。
LLM会产生幻觉是工作的本质而不是bugLLM的幻觉是指当模型生成的文本不遵循原文（Faithfulness）或者不符合事实（Factualness）的现象。这种现象的产生是因为LLM在处理自然语言时，虽然能够模拟人类的语言表达方式，但实际上并不能真正理解语义背后的含义。
例如，当人们询问LLM“请给我讲一下孙悟空三打诸葛亮的故事”时，即使这两者没有交集，ChatGPT仍然煞有介事地生成一个看似合理的答案。然而，这个答案可能并不准确，甚至可能与实际情况完全相反。
LLM幻觉的产生主要有两个原因。首先，语言模型基于大量的语料库进行训练，这些语料库可能包含了大量的噪音和无关信息，导致模型难以从中提取到真正的语义信息。其次，语言模型缺乏对外部世界的知识和

原文链接：幻觉不是缺陷反而是优势！OpenAI大神认为大模型是“造梦机”