图灵奖得主杨立昆：统治欲望源于生存需求，而非智能水平，AI 不会有这种想法

原标题：图灵奖得主杨立昆：统治欲望源于生存需求，而非智能水平，AI 不会有这种想法
文章来源：人工智能学家
内容字数：37935字

本文总结了Meta首席AI科学家Yann LeCun与加州大学圣地亚哥分校杰出物理学教授Brian Keating的对话，探讨了人工智能的现状、挑战和未来发展方向。对话中，LeCun展现了其深厚的物理学造诣，并对AI领域的一些关键问题提出了独到的见解。

LeCun指出，目前最先进的大语言模型虽然在语言处理方面表现出色，但对物理世界缺乏理解，其智能水平甚至不及猫。猫能够规划、推理，并理解物理世界，这是当前AI系统无法复制的能力。这凸显了AI在理解真实世界方面的局限性。

LeCun认为，未来AI领域的一个重大挑战是超越自回归式大语言模型架构，发展能够理解真实世界，并获得某种常识的架构。他强调，大语言模型并非AI的全部，需要探索新的架构，例如他提出的JEPA架构，以实现对真实世界的理解和规划能力。

LeCun详细解释了JEPA（联合嵌入预测架构），这是一种能够学习图像和视频良好表征的架构。他认为，JEPA能够帮助AI系统找到对现实的合适表征，去除无关信息，从而做出更准确的预测。这与科学发现的本质相吻合，即找到合适的表征和相关变量来解释现象。

LeCun指出，强化学习的效率非常低，无法解释人类和动物的高效学习能力。他认为，自监督学习才是人类和动物学习的主要方式，大语言模型的成功正是证明了自监督学习力量的最好例子。他将自监督学习比作AI领域的“暗物质”，是AI发展中不可或缺的部分。

LeCun避免使用AGI（通用人工智能）这个词，因为他认为人类的智能是极其专门化的。他更倾向于使用“人类水平的AI”（AMI）这个术语。他认为，要达到大众认可的人类级智能，即使在最理想的情况下，也需要5-6年甚至更长时间。

LeCun认为，寻找可证明安全的AI系统是不可能的，但可以通过工程手段构建安全系统。他提倡构建目标驱动AI，这种系统通过优化目标来产生输出，并设置护栏条件来限制其行为，从而避免AI系统对人类造成伤害。

LeCun对AI的未来发展持乐观态度。他认为，AI增强人类智能的影响力可能堪比15世纪的印刷术，将对人类社会产生深远的影响。他相信，人类水平的AI是一个产品需求，一旦实现，将对人类社会产生巨大的影响。

总而言之，LeCun与Keating的对话深入探讨了AI的现状、挑战和未来发展方向，为我们理解AI的本质和发展趋势提供了宝贵的参考。对话中，LeCun不仅展现了其在AI领域的深厚造诣，也表达了其对AI未来发展的乐观态度和对AI安全性的重视。

联系作者

文章来源：人工智能学家
作者微信：
作者简介：致力成为权威的人工智能科技媒体和前沿科技研究机构

文章版权归作者所有，未经允许请勿转载。

暂无评论...