独家｜OpenAI超级对齐负责人Jan Leike：如何破解对齐难题？用可扩展监督

AIGC动态欢迎阅读

原标题：独家｜OpenAI超级对齐负责人Jan Leike：如何破解对齐难题？用可扩展监督

关键字：模型,人类,人工智能,系统,问题

文章来源：人工智能学家

内容字数：13971字

内容摘要：来源：智源社区导读今年早些时候，OpenAI宣布成立了一支专注于超级对齐的新团队，由Jan Leike和IIya Sutskever领导，超级对齐旨在构建一个能够与人类水平相媲美的自动对齐研究器。其目标是尽可能地将与对齐相关的工作交由自动系统完成。其中一个重要手段就是可扩展监督（Scalable Oversight），即在确保模型能力超过人类水平后，仍旧能够与人类期望保持一致、持续地进行改进和学习…

原文链接：点此阅读原文：独家｜OpenAI超级对齐负责人Jan Leike：如何破解对齐难题？用可扩展监督

联系作者

文章来源：人工智能学家

作者微信：AItists

作者简介：致力成为权威的人工智能科技媒体和前沿科技研究机构