OpenAI：如GPT-5太危险，董事会有权阻止奥特曼发布

AIGC动态欢迎阅读

原标题：OpenAI：如GPT-5太危险，董事会有权阻止奥特曼发布
关键字：公告,风险,模型,董事会,团队
文章来源：量子位
内容字数：3417字

内容摘要：

梦晨 发自 凹非寺量子位 | 公众号 QbitAIOpenAI发布新公告：董事会现在有权否决奥特曼的决定。
特别是针对GPT-5等前沿模型安全风险是否过高，是否对外发布等关键问题。
作为上个月内讧的后果之一，总裁Greg Brockman与前首席科学家Ilya Sutskever已退出董事会，公司管理层无人再兼任董事会成员，两种角色完全分离。
现在公司管理层做决策，董事会有权推翻。
上一届董事会指责奥特曼“沟通不诚恳”，并称这是解雇他的主要原因。
这次专门成立了安全顾问团队，每个月同时向公司管理层和董事会汇报，确保所有决策者充分了解情况。
除此之外，这份“前沿风险防范框架”还给OpenAI自己的技术开发设立了诸多限制。如针对不同种类的AI风险，必须确保模型安全得分达标后才能进入下一个开发阶段。
有OpenAI员工表示：一般情况下不要相信公司说的“价值观”，除非他们真的花高昂代价展开了行动。
而且是增加内部摩擦力、给竞争对手超车机会这种对自己没有明显好处的事。
但不少用户依旧不买账：以安全的名义，现在ChatGPT的表现就像个土豆。
随公告发布的还有一个动态文档，会不断更新对风险的跟踪、

原文链接：OpenAI：如GPT-5太危险，董事会有权阻止奥特曼发布

联系作者

文章来源：量子位
作者微信：QbitAI
作者简介：追踪人工智能新趋势，关注科技行业新突破