详解OpenAI 首席科学家最重要的工作，他为什么要实现超级对齐？

AIGC动态欢迎阅读

原标题：详解OpenAI 首席科学家最重要的工作，他为什么要实现超级对齐？

关键字：系统,人工智能,模型,人类,解释性

文章来源：Founder Park

内容字数：13040字

内容摘要：OpenAI于今年7月首次提出超级对齐的概念，并宣布投入20%的计算资源，花费4年的时间全力打造一个超级对齐（Superalignment）系统，意在解决超级智能的对齐问题。超级智能是一把双刃剑，有助于解决许多重要问题，同时也可能削弱人类的权力并威胁我们的安全。为了治理这些风险，急需建立新的治理机构并解决AI模型的对齐问题。随着OpenAI官方团队的介绍和多方解析不断发布，超级对齐的面貌也逐渐清晰…

原文链接：点此阅读原文：详解OpenAI 首席科学家最重要的工作，他为什么要实现超级对齐？

联系作者

文章来源：Founder Park

作者微信：Founder-Park

作者简介：来自极客公园，专注与科技创业者聊「真问题」。