逼迫大模型消除幻觉，就像杨永信电击治疗网瘾少年

AIGC动态欢迎阅读

原标题：逼迫大模型消除幻觉，就像杨永信电击治疗网瘾少年
关键字：幻觉,模型,政策,数据,现象
文章来源：夕小瑶科技说
内容字数：9668字

内容摘要：

夕小瑶科技说原创作者 | 智商掉了一地在科技高速发展的领域，进步往往伴随着争议。数字化时代，我们被海量信息所环绕，利用大模型来提取信息和生成答案，有时会遇到模型给出的所谓“幻觉（hallucination）”回应。这就带来了一个问题：是否应该逼迫 AI 大模型停止产生幻觉？这里所说的“幻觉”，并非指心理学上的异常现象，而是指模型在处理复杂问题时产生的非预期、类人的创新性输出。
以杨永信曾经大力推崇的电击治疗网瘾为例，这种伤害身体来控制行为的做法往往治标不治本。这种方法和控制大模型产生幻觉的做法看似不同，实则极其相似。表面上看，很多人都在期待大模型纯粹基于事实回答，但正如电击最终会对青少年造成伤害一样，太过苛求大模型消除幻觉，可能会适得其反，削弱它们的创造性发散能力。在这个问题上，我们必须寻求平衡，切忌矫枉过正。
因此，我们究竟应该如何看待大规模模型产生的“幻觉”呢？我们别急于给出答案，在追求信息的绝对真实性之前，我们应先深思这一模型特性应如何被合理理解和接受，甚至可能赋予它全新的价值。
何为大模型的“幻觉”？究竟是“叮当猫”还是耳熟能详的“叮（口当）猫”？实际上，“叮当猫”一直是唯一

原文链接：逼迫大模型消除幻觉，就像杨永信电击治疗网瘾少年