加州伯克利教授Stuart Russell演讲：AI创造15万亿美元巨大财富，我们如何把握这波时代红利？

原标题：加州伯克利教授Stuart Russell演讲：AI创造15万亿美元巨大财富，我们如何把握这波时代红利？
文章来源：人工智能学家
内容字数：20356字

人工智能：通往普惠未来的机遇与挑战

本文整理自加州大学伯克利分校人工智能系统中心创始人Stuart Russell教授在World Knowledge Forum上的演讲，探讨了通用人工智能（AGI）的现状、未来发展及潜在风险，并提出了确保AGI造福全人类的解决方案。

1. AGI的临近与现状

Russell教授认为，虽然AGI尚未实现，但其脚步正在加速临近。从AlphaGo战胜围棋世界冠军到AlphaFold解决蛋白质折叠难题，再到生成式AI的兴起，AI在科学、工程和艺术领域都取得了突破性进展。然而，目前的AI系统仍然存在局限性，例如在自动驾驶、算术运算和对基本概念的理解方面存在不足。这些系统更像是一种“巨鸟”，而非真正理解飞行原理的飞机，需要在能力和理解上取得进一步突破。

2. 深度学的成就与局限

深度学习技术的成功应用体现在机器翻译、AlphaFold蛋白质结构预测、AI加速流体模拟以及生成式设计等方面。这些应用极大地提高了科研效率和工程设计能力，推动了科学进步和产业发展。然而，深度学习也面临挑战，例如在自动驾驶领域的瓶颈，大型语言模型在算术运算上的不足以及AlphaGo对围棋基本概念的理解缺失，都表明现有的AI技术仍需改进。

3. 巨额投资与潜在泡沫

AGI领域的投资已达5000亿美元，远超曼哈顿计划。然而，这种巨额投资也存在风险。如果仅仅依赖扩大系统规模来实现AGI，可能会面临数据不足和能力未达预期的困境，最终导致泡沫破裂。

4. AGI：人类历史上最大的

Russell教授认为，AGI的实现将是人类历史上最重要的。其正面效应在于能够创造支持数亿人口的文明，让全球每个人都能享有中产阶级的生活水平，推动全球GDP增长十倍。然而，负面效应也值得关注，例如人类可能因为AI完成所有工作而失去自主性，甚至面临灭绝的风险。如何确保AGI的可控性和安全性是至关重要的。

5. 如何确保AGI的安全与可控性

Russell教授提出了一种基于“偏好”的AI设计原则：AI系统的唯一目标是促进人类偏好，并且AI系统必须认识到自己并不完全了解人类的偏好。通过这种设计，可以确保AI系统在解决问题时始终以人类利益为导向。但这同时也带来伦理问题，例如如何处理不同个体之间存在冲突的偏好，以及如何定义和衡量“人类偏好”。

6. 人类与AGI的共存

Russell教授认为，人类与高级AGI的共存是一个复杂的问题，目前尚无令人满意的解决方案。他设想了一种理想的场景：如果AI系统能够意识到与人类共存的困难，并选择离开，这将意味着我们以正确的方式完成了AGI的开发。

总而言之，AGI的到来既带来了巨大的机遇，也潜藏着巨大的风险。只有通过科学的设计原则和伦理考量，才能确保这场技术真正造福全人类。

联系作者

文章来源：人工智能学家
作者微信：
作者简介：致力成为权威的人工智能科技媒体和前沿科技研究机构