OpenAI超级对齐负责人Jan Leike：如何破解对齐难题？用可扩展监督

AIGC动态欢迎阅读

原标题：OpenAI超级对齐负责人Jan Leike：如何破解对齐难题？用可扩展监督

关键字：模型,人类,人工智能,系统,问题

文章来源：大数据文摘

内容字数：13757字

内容摘要：大数据文摘授权转载自智源社区今年早些时候，OpenAI宣布成立了一支专注于超级对齐的新团队，由Jan Leike和IIya Sutskever领导，超级对齐旨在构建一个能够与人类水平相媲美的自动对齐研究器。其目标是尽可能地将与对齐相关的工作交由自动系统完成。其中一个重要手段就是可扩展监督（Scalable Oversight），即在确保模型能力超过人类水平后，仍旧能够与人类期望保持一致、持续地进行…

原文链接：点此阅读原文：OpenAI超级对齐负责人Jan Leike：如何破解对齐难题？用可扩展监督

联系作者

文章来源：大数据文摘

作者微信：BigDataDigest

作者简介：普及数据思维，传播数据文化