美国务院委托报告：AI或带来灭绝威胁，应禁止大规模AI训练

AIGC动态欢迎阅读

原标题：美国务院委托报告：AI或带来灭绝威胁，应禁止大规模AI训练
关键字：报告,政策,美国,芯片,模型
文章来源：AI范儿
内容字数：3490字

内容摘要：

点击上方蓝字关注我们“美国委托的报告警告，人工智能（AI）发展可能对国家安全构成“灭绝级威胁”。报告建议立法禁止高计算能力的AI模型训练，并要求AI公司在新模型训练和部署时获得许可。此外，提议禁止公布强大AI模型的内部工作机制，并对AI芯片制造和出口实施更严格控制。这些措施旨在防止AI技术的潜在滥用，并确保全球安全。美国面临着来自人工智能（AI）带来的国家安全风险，这些风险可能在最极端的情况下构成“灭绝级威胁”。这是根据美国委托并于本周一发布的一份报告所警告的。
报告指出，当前的AI前沿开发正对国家安全构成紧迫且不断增长的威胁，并认为先进AI和通用人工智能（AGI）的发展可能会对全球安全造成破坏，类似于核武器的问世。尽管AGI尚未问世，但顶尖的AI实验室正在努力朝这个目标迈进，许多人预计在未来五年内或更短的时间内可能实现。
报告的作者们花费了一年多的时间与200多位官员、专家以及前沿AI公司的员工进行了交流，包括OpenAI、谷歌DeepMind、Anthropic和Meta等公司。一些交流内容揭示了一个令人不安的现实：许多在尖端实验室工作的AI安全人员担心，公司高

原文链接：美国务院委托报告：AI或带来灭绝威胁，应禁止大规模AI训练