OpenAI研究员首次提出「AGI时间」进化论！o1数学已达「分钟级AGI」

原标题：OpenAI研究员首次提出「AGI时间」进化论！o1数学已达「分钟级AGI」
文章来源：新智元
内容字数：12395字

OpenAI科学家就LLM能否实现AGI展开激烈辩论

近期，OpenAI科学家就大型语言模型(LLM)能否通过现有路线实现通用人工智能(AGI)展开了激烈的辩论。辩论双方观点针锋相对，一方认为现有技术足以实现AGI，另一方则持怀疑态度，认为需要更多质的飞跃。

1. 辩论核心：LLM能否解决重大数学难题？

   辩论的核心在于LLM能否解决像P≠NP或黎曼猜想这样的重大数学猜想。正方代表Sébastien Bubeck认为，LLM的进步速度惊人，通过持续扩展，例如增加模型参数和训练数据，最终可以达到解决这些难题的水平，甚至预测明年LLM就能获得国际数学奥林匹克竞赛的金牌。他认为，衡量AI进步的真正标准应该是“AGI时间”，随着模型能力的提升，“秒级AGI”、“分钟级AGI”最终将进化为“周级AGI”，从而具备解决复杂问题的潜力。

2. 反方观点：创造性飞跃和长期推理的缺失

   反方代表Tom McCoy则持反对意见，他认为仅仅依靠现有方法的扩展不足以解决复杂的数学猜想。他指出，解决这些难题需要创造性的飞跃，即提出全新的证明思路，而不仅仅是现有想法的组合。此外，LLM缺乏长期推理和规划能力，以及容易出现幻觉等问题，都限制了其解决复杂数学问题的可能性。他认为，LLM需要质变，而不是简单的规模扩大。

3. 正方反驳：组合与后训练的潜力

   针对反方提出的问题，Sébastien反驳道，创造性本身就是一种“组合”，通过不断将现有知识和想法组合，并引入随机性，就能产生突破性的成果。他还认为，LLM目前的能力不足，是由于训练数据中某些任务表示不充分导致的，可以通过后训练来弥补。

4. 反方回应：后训练无法改变模型根本特性

   Tom回应道，即使经过后训练，LLM基于自回归的根本特性依然存在，这限制了其解决复杂问题的潜能。他认为，需要从预训练阶段就明确且直接地对推理进行训练，才能达到所需的稳健性。

5. 双方：人机协作的重要性

   双方都认同人机协作的重要性。Sébastien认为，AI将与人类合作解决问题，并分享了AI辅助其研究的经验。Tom也认为AI可以与人类合作，但这并不意味着它可以做出数学创新。

6. 反方担忧：指数级增长困境

   Tom提出了另一个担忧，即即使假设有无限的时间和数据，扩展也可能面临指数级增长困境。性能提升随着规模扩大是按对数增长的，这意味着需要更多指数级的数据或推理时间才能继续看到性能提升，这在实际操作中可能不可行。

7. 总结：乐观与怀疑并存

   最终，双方观点存在分歧。Sébastien对LLM的未来发展持乐观态度，认为通过持续扩展和改进，LLM最终能够实现AGI。Tom则对仅靠扩展规模表示怀疑，他认为需要在长距离推理、可靠性、创造力等方面进行根本性的改进，才能实现AGI。

联系作者

文章来源：新智元
作者微信：
作者简介：智能+中国主平台，致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展，关注人机融合、人工智能和机器人对人类社会与文明进化的影响，领航中国新智能时代。