Science重磅！Yoshua Bengio、Geoffrey Hinton、姚期智领衔25位顶尖AI学者：是时候兑现承诺了

AIGC动态欢迎阅读

原标题：Science重磅！Yoshua Bengio、Geoffrey Hinton、姚期智领衔25位顶尖AI学者：是时候兑现承诺了
关键字：人工智能,政策,系统,能力,报告
文章来源：人工智能学家
内容字数：14429字

内容摘要：

【编者按】近期，Ilya Sutskever 从 OpenAI 离职以及 OpenAI 超级对齐团队共同领导者 Jan Leike 随后离职的消息，在业界引起了广泛关注。这一系列再次突显了人工智能（AI）对齐与安全问题的严峻性，特别是对于强大的人工智能系统来说，如何确保其安全性、可解释性和可控性是至关重要的。
就在今天，Yoshua Bengio、Geoffrey Hinton 和姚期智（Andrew Yao）三位图灵奖得主联合国内外数十位业内专家和学者，在权威科学期刊 Science 的 Policy Forum 栏目上刊登了题为“Managing extreme AI risks amid rapid progress”的文章，呼吁世界各国针对人工智能风险采取更有力的行动，并警告说，近六个月所取得的进展还不够。在文章中，25 位世界顶尖的人工智能科学家表示，在保护我们免受该技术风险方面所做的工作实际上还不够，并概述了全球为应对人工智能技术威胁而应采取的紧急政策优先事项。
牛津大学工程科学系教授 Philip Torr 是这篇论文的共同作者之一，他说：“在上一次人工智

原文链接：Science重磅！Yoshua Bengio、Geoffrey Hinton、姚期智领衔25位顶尖AI学者：是时候兑现承诺了