OpenAI又一吹哨人离职！拉响安全警报，风险隐患实在太大

AIGC动态欢迎阅读

原标题：OpenAI又一吹哨人离职！拉响安全警报，风险隐患实在太大
关键字：政策,团队,模型,透明度,成员
文章来源：量子位
内容字数：4810字

内容摘要：

一水发自凹非寺量子位 | 公众号 QbitAIOpenAI离职潮中，又一研究员官宣离职，并且还发出了“警告”信息：
Ilya和Jan Leike的担忧正是我的担忧，还有一些额外的问题。
我们需要做更多事来改进决策流程等基础性的事务，包括问责制、透明度、文档、策略执行、如何谨慎使用技术，以及减轻不平等、权利和环境影响的措施。
主人公名叫Gretchen Krueger（简称格姐），是OpenAI的AI策略研究员。
她在2019年加入OpenAI，参与过GPT-4和DALL·E 2的开发工作，还在2020年领导了OpenAI第一个全公司范围的“红队”测试。
此番出走，除了提到OpenAI的决策透明度问题，她还隐约暗示：
一般来说，科技公司剥夺那些寻求追究其责任的人的权力的方法之一，就是在那些提出担忧或挑战其权力的人之间制造。我非常关心防止这种情况发生。
算上Ilya和Jan Leike，格姐已经是这个月第3位从OpenAI离开的安全相关人员——她提交辞呈还是在Ilya和Jan Leike确认离职之前。
本月第3位离职的OpenAI安全成员先来简单回顾整个事情。
格姐是OpenAI的

原文链接：OpenAI又一吹哨人离职！拉响安全警报，风险隐患实在太大