奥特曼被套上“紧箍咒”？OpenAI发布27页安全指南，董事会有权否决新AI模型发布

AIGC动态欢迎阅读

原标题：奥特曼被套上“紧箍咒”？OpenAI发布27页安全指南，董事会有权否决新AI模型发布
关键字：报告,华为,解读,风险,模型
文章来源：AI前线
内容字数：5501字

内容摘要：

整理｜冬梅、核子可乐
生成式人工智能的潜在危险引起了公众、政治家和人工智能研究人员的关注。随着各国政府希望压制该技术，OpenAI 扩大了其内部安全流程，以应对有害人工智能 (AI) 的威胁。
近日，OpenAI 公司 CEO Sam Altman 现身美国佐治亚州亚特兰大召开的全球希望论坛。全球 40 个国家的 5200 多名代表参会，旨在重新构想全球经济体系，让企业的自由效益与机遇惠及所有人。OpenAI 董事会有权阻止
“有害的”新 AI 模型发布
OpenAI 公司已经制定计划，遏制当前及未来正在开发的强大 AI 技术可能引发的一切最坏情况。作为席卷全球的聊天机器人 ChatGPT 的缔造者，该公司本周公布了一份长达 27 页的“准确框架”文件，概述了 OpenAI 如何跟踪、评估及防范由前沿 AI 模型所引发的“灾难性风险”。
具体风险范围从 AI 模型被用于实施大规模网络安全破坏，到协助制造生物、化学或核武器等等。作为这份准备框架中制衡章节的一部分，OpenAI 表示该公司领导层将对是否发布新 AI 模型拥有决策权，但最终决定权将始终归董事会所有，即保有对 OpenAI 高

原文链接：奥特曼被套上“紧箍咒”？OpenAI发布27页安全指南，董事会有权否决新AI模型发布

联系作者

文章来源：AI前线
作者微信：ai-front
作者简介：面向AI爱好者、开发者和科学家，提供AI领域技术资讯、一线业界实践案例、搜罗整理业界技术分享干货、AI论文解读。每周一节技术分享公开课，助力你全面拥抱人工智能技术。