图灵奖得主Bengio、姚期智等警告：“灾难性结果”随时可能发生，需将AI安全视为全球公共产品

AIGC动态欢迎阅读

原标题：图灵奖得主Bengio、姚期智等警告：“灾难性结果”随时可能发生，需将AI安全视为全球公共产品
关键字：报告,人工智能,政策,风险,全球
文章来源：人工智能学家
内容字数：0字

内容摘要：

来源：学术头条
素材来源：官方媒体/网络新闻
【编者按】“人类失去控制或恶意使用这些人工智能（AI）系统，可能会给全人类带来灾难性的后果。”
如今，AI大模型引发的潜在风险，已成为日益严峻的焦点问题，正受到来自全球各界的关注。
日前，三位图灵奖得主 Yoshua Bengio、Geoffrey Hinton、姚期智，与来自世界各地的几十位科学家共同签署了一封公开信——“AI 安全国际对话威尼斯共识”，呼吁为推动人工智能的发展制定更好的保障措施。
他们在公开信中警告道，“随着人工智能的快速发展，这些‘灾难性的结果’随时可能发生。”
其他核心观点如下：
由于人工智能带来的风险具有全球性，我们必须将人工智能安全视为全球公共产品，并为实现这些风险的全球治理而努力。
各国需要在现有的努力上迈出更大步伐。作为第一步，各国应设立有能力在其境内监测和应对人工智能事故与灾难性风险的部门。
他们呼吁，各国将人工智能安全视为一个独立于人工智能能力地缘战略竞争的合作领域，专注于国际学术与技术合作。
前沿人工智能开发者必须向本国监管部门证明，其所开发或部署的系统不会逾越红线，例如在 AI 安全国际对话北京共识中

原文链接：图灵奖得主Bengio、姚期智等警告：“灾难性结果”随时可能发生，需将AI安全视为全球公共产品

联系作者

文章来源：人工智能学家
作者微信：
作者简介：