Hinton、Bengio等联合中国专家达成AI安全共识：AI系统不应违反红线

AIGC动态欢迎阅读

原标题：Hinton、Bengio等联合中国专家达成AI安全共识：AI系统不应违反红线
关键字：人工智能,红线,国际,系统,技术
文章来源：机器之心
内容字数：4475字

内容摘要：

机器之心报道
机器之心编辑部为了应对 AI 发展带来的挑战，国内外研究者展开合作以避免其可能带来的灾难的发生。现阶段，人工智能的发展速度已经超出了人们最初的预想，用 AI 工具写文章、编代码、生成图片、甚至是生成一段电影级别的视频…… 这些在以前看似非常艰难的任务，现在只需用户输入一句提示就可以了。
我们在感叹 AI 带来惊艳效果的同时，也应该警惕其带来的潜在威胁。在此之前，很多知名学者以带头签署公开信的方式应对 AI 带来的挑战。
现在，AI 领域又一封重磅公开信出现了。上周在颐和园召开的「北京AI国际安全对话」，为中国和国际AI安全合作首次搭建了一个独特平台。这次会议由智源研究院发起，图灵奖得主Yoshua Bengio和智源学术顾问委员会主任张宏江担任共同主席，Geoffrey Hinton、Stuart Russell 、姚期智等三十余位中外技术专家、企业负责人开展了一次关于 AI Safety 的闭门讨论。这次会议达成了一项 Bengio、Hinton 与国内专家共同签名的《北京 AI 安全国际共识》。目前，确认会署名的专家包括（国外部分可能会略有增加；国内专家以个人形式署名

原文链接：Hinton、Bengio等联合中国专家达成AI安全共识：AI系统不应违反红线