朱松纯：大模型为什么不是AGI？

原标题：朱松纯：大模型为什么不是AGI？
文章来源：人工智能学家
内容字数：16669字

朱松纯教授新书《为机器立心》解读：大模型的局限与通用人工智能的未来

本文根据知识分子杂志刊登的朱松纯教授新书《为机器立心》第一章内容，总结了当前大模型技术的局限性，并探讨了通用人工智能（AGI）的未来发展方向。

1. 大模型：缸中之脑的隐喻

朱松纯教授以哲学思想实验“缸中之脑”来比喻当前的大模型。大模型通过统计建模学习文本间的语言学关系，预测下一个词语，却缺乏与真实世界的实质性联结（符号落地）。这导致大模型容易陷入无限循环，其“智能”实则源于人类智能的投射，而非内在的理解。如同“无色的绿思狂暴地沉睡”一样，大模型生成的文本缺乏内在意义，其意义完全依赖人类的阐释。

2. 隐藏记忆而非真正理解

文章指出，大模型训练数据的不透明性以及评估指标的差异，导致人们高估了其真实性能。大模型可能只是在“隐藏记忆”中检索信息，而非真正掌握核心概念。文中列举了 GPT-4 在简单数学计算、事实判断和创造力测试中的错误，说明其缺乏基本的逻辑推理和常识判断能力，更像是一种新型的“数据库”。

3. 数据瓶颈与AGI的挑战

文章认为，大模型的数据价值已趋于饱和，单纯增加数据量或模型规模难以带来质的飞跃。杨立昆等学者也指出，现有的大模型研究缺乏对认知推理模型的构建，单纯的数据驱动无法实现人类级别的智能。大模型存在虚假涌现和不可控性等问题，其语言空间也无法覆盖所有智能任务。大模型缺乏“行”（行动能力），无法主动探索和积累知识，只能被动地获取信息。