OpenAI超级对齐团队发布第一篇论文，Ilya带头研究，用GPT-2监督GPT-4

AIGC动态欢迎阅读

原标题：OpenAI超级对齐团队发布第一篇论文，Ilya带头研究，用GPT-2监督GPT-4

关键字：模型,监督者,学生,论文,问题

文章来源：夕小瑶科技说

内容字数：6648字

内容摘要：夕小瑶科技说 原创作者 | 小戏OpenAI 又搞出大动作了！由OpenAI 首席科学 Ilya Sutskever 领导的 “超级对齐”团队发布了他们的第一篇论文，提出了“弱对强泛化”的概念以及用小模型 GPT-2 监督大模型 GPT-4 的方法，展示了未来控制超级AI智能的有效手段！早在今年七月，OpenAI 就提出“未来十年内，可能会出现智商超过人类的 AI 系统”，而如果真的出现这种 AI 系统，那么迫在眉睫的问题将是“如何使得超级 AI 与人类利益对齐？”区别于现在的诸如 RLHF 这样的对齐方法，“超级对齐”问题面临的最大挑战在于：这是一个“未来”的问题，在目前我们仅仅知道他们“将来”，但是事实上却对超级 AI 一无所知。面对这样一个“谜题”，由 Ilya Sutskever 领衔，OpenAI 于今年7月成立了 Superalignment 超级对齐团队，使用当下 OpenA…

原文链接：点此阅读原文：OpenAI超级对齐团队发布第一篇论文，Ilya带头研究，用GPT-2监督GPT-4

联系作者

文章来源：夕小瑶科技说

作者微信：xixiaoyaoQAQ

作者简介：更快的AI前沿，更深的行业洞见。聚集25万AI应用开发者、算法工程师和研究人员。一线作者均来自清北、国外顶级AI实验室和互联网大厂，兼备媒体sense与技术深度。