Ilya出走加剧OpenAI离职潮！RLHF作者Jan Leike同日辞职，超级对齐项目分崩离析

AIGC动态欢迎阅读

原标题：Ilya出走加剧OpenAI离职潮！RLHF作者Jan Leike同日辞职，超级对齐项目分崩离析
关键字：团队,模型,解释性,量子,说法
文章来源：量子位
内容字数：3434字

内容摘要：

梦晨发自凹非寺量子位 | 公众号 QbitAIIlya Sutskever宣布退出OpenAI，震动整个AI圈。
数小时后，RLHF发明者之一Jan Leike也追随他的脚步一起离开，再次给OpenAI的前途蒙上了一层阴影。
两人共同领导的超级对齐团队成立还不到一年，已经分崩离析。
△他甚至不留下一句客套话
Jan Leike在GPT-4项目上与Ryan Lowe共同领导了对齐工作，而后者也已于3月底离开OpenAI。
所以说不止超级对齐团队，而是整个OpenAI安全研究方向的人才，都在持续动荡中。
超级对齐成员之一William Saunders，以及参与过GPT-4对抗的Daniel Kokotajlo，此前两人均已离开OpenAI。
其中Kokotajlo在Less Wrong论坛留下了自己的理由：
对OpenAI能否在AGI时代负责任的行动失去了信心。
按他的说法，当前的AI监管努力集中在“评估风险和采取缓解措施”的组合上，这种组合很容易被大型公司钻空子利用，最终导致“选择性暂停”，也就是最需要被监管的前沿大型AI实验室反而没被监管到。
“幻灭了”，这是他用来形容辞职

原文链接：Ilya出走加剧OpenAI离职潮！RLHF作者Jan Leike同日辞职，超级对齐项目分崩离析