朱松纯：大模型为什么不是AGI？

原标题：朱松纯：大模型为什么不是AGI？
文章来源：人工智能学家
内容字数：16669字

朱松纯教授新书《为机器立心》解读：大模型的局限与通用人工智能的未来

本文根据知识分子杂志刊登的朱松纯教授新书《为机器立心》第一章内容，总结了当前大模型技术的局限性，并探讨了通用人工智能（AGI）的未来发展方向。

1. 大模型：缸中之脑的隐喻

朱松纯教授以哲学思想实验“缸中之脑”来比喻当前的大模型。大模型通过统计建模学习文本间的语言学关系，预测下一个词语，却缺乏与真实世界的实质性联结（符号落地）。这导致大模型容易陷入无限循环，其“智能”实则源于人类智能的投射，而非内在的理解。 如同“无色的绿思狂暴地沉睡”一样，大模型生成的文本缺乏内在意义，其意义完全依赖人类的阐释。

2. 隐藏记忆而非真正理解

文章指出，大模型训练数据的不透明性以及评估指标的差异，导致人们高估了其真实性能。大模型可能只是在“隐藏记忆”中检索信息，而非真正掌握核心概念。文中列举了 GPT-4 在简单数学计算、事实判断和创造力测试中的错误，说明其缺乏基本的逻辑推理和常识判断能力，更像是一种新型的“数据库”。

3. 数据瓶颈与AGI的挑战

文章认为，大模型的数据价值已趋于饱和，单纯增加数据量或模型规模难以带来质的飞跃。杨立昆等学者也指出，现有的大模型研究缺乏对认知推理模型的构建，单纯的数据驱动无法实现人类级别的智能。大模型存在虚假涌现和不可控性等问题，其语言空间也无法覆盖所有智能任务。 大模型缺乏“行”（行动能力），无法主动探索和积累知识，只能被动地获取信息。

4. 通往AGI的“1238”路线图

书中提出的“1238”路线图，为通用人工智能的研究提供了系统性思路：一个统一框架、两大系统完备性、三项基本特征、八大关键问题。 这暗示着，通往AGI的道路需要更深入地理解智能的本质，构建更完备的认知架构，解决符号落地等关键问题。

5. 朱松纯团队的研究成果

文章简要介绍了朱松纯团队的四大研究成果：通用智能体“通通”、大任务仿真平台“通界”、评级标准“通智测试”、科研平台“通境”，这些成果旨在推动AGI研究和产业应用。

总而言之，文章强调了当前大模型的局限性，认为它们并非通用人工智能，并呼吁学术界和产业界共同努力，探索更符合人类智能本质的AGI发展道路，最终实现“为机器立心”。

联系作者

文章来源：人工智能学家
作者微信：
作者简介：致力成为权威的人工智能科技媒体和前沿科技研究机构