大模型就是「造梦机」，Karpathy一语惊人！人类才是「幻觉问题」根本原因

AIGC动态欢迎阅读

原标题：大模型就是「造梦机」，Karpathy一语惊人！人类才是「幻觉问题」根本原因

关键字：幻觉,模型,人类,问题,数据

文章来源：新智元

内容字数：7101字

内容摘要：新智元报道编辑：桃子 润【新智元导读】大模型就是「造梦机」！幻觉是LLM与生俱来的特性，而非缺陷。OpenAI科学家Andrej Karpathy独特视角在AI社区掀起了激烈的讨论。幻觉，早已成为LLM老生常谈的问题。然而，OpenAI科学家Andrej Karpathy今早关于大模型幻觉的解释，观点惊人，掀起非常激烈的讨论。在Karpathy看来：从某种意义上说，大语言模型的全部工作恰恰就是制造幻觉，大模型就是「造梦机」。另外，Karpathy的另一句话，更是被许多人奉为经典。他认为，与大模型相对的另一个极端，便是搜索引擎。「大模型100%在做梦，因此存在幻觉问题。搜索引擎则是完全不做梦，因此存在创造力问题」。总而言之，LLM不存在「幻觉问题」。而且幻觉不是错误，而是LLM最大的特点。只有大模型助手存在幻觉问题。对此，英伟达高级科学家Jim Fan分享了自己的看法，「令人着迷的是，最好的…

原文链接：点此阅读原文：大模型就是「造梦机」，Karpathy一语惊人！人类才是「幻觉问题」根本原因

联系作者

文章来源：新智元

作者微信：AI_era

作者简介：智能+中国主平台，致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展，关注人机融合、人工智能和机器人对人类社会与文明进化的影响，领航中国新智能时代。