OpenAI、微软、智谱AI等全球16家公司共同签署前沿人工智能安全承诺

AIGC动态欢迎阅读

原标题：OpenAI、微软、智谱AI等全球16家公司共同签署前沿人工智能安全承诺
关键字：人工智能,政策,模型,安全问题,法案
文章来源：机器之心
内容字数：4784字

内容摘要：

机器之心发布
机器之心编辑部人工智能（AI）的安全问题，正以前所未有的关注度在全球范围内被讨论。
日前，OpenAI 联合创始人、首席科学家 Ilya Sutskever 与 OpenAI 超级对齐团队共同 Jan Leike 相继离开 OpenAI，Leike 甚至在 X 发布了一系列帖子，称 OpenAI 及其领导层忽视安全而偏爱光鲜亮丽的产品。这在业界引起了广泛关注，在一定程度上凸显了当前 AI 安全问题的严峻性。
5 月 21 日，图灵奖得主 Yoshua Bengio、Geoffrey Hinton 和姚期智联合国内外数十位业内专家和学者，在权威科学期刊 Science 上刊文，呼吁世界各国针对 AI 风险采取更有力的行动，并警告说，“近六个月所取得的进展还不够”。他们认为，AI 的无节制发展很有可能最终导致生命和生物圈的大规模损失，以及人类的边缘化或灭绝。
在他们看来，AI 模型的安全问题，已经上升到足够威胁人类未来生存的水平。
同样，AI 模型的安全问题，也已经是可以影响每一个人、每一个人都有必要关心的话题。
5 月 22 日，注定是人工智能史上的一个重大时刻

原文链接：OpenAI、微软、智谱AI等全球16家公司共同签署前沿人工智能安全承诺