对打GPT-4！Claude 3秘密武器曝光：Claude宪法

AIGC动态欢迎阅读

原标题：对打GPT-4！Claude 3秘密武器曝光：Claude宪法
关键字：宪法,人工智能,模型,原则,价值观
文章来源：新智元
内容字数：5205字

内容摘要：

新智元报道编辑：Henry
【新智元导读】Anthropic发布最新Claude宪法，兼具标准性和灵活性。语言模型如何决定它将涉及哪些问题，哪些问题它认为不合适涉及？为什么它会鼓励某些行为，而阻止另一些行为？语言模型有哪些「价值观」？如何让大模型的响应符合伦理价值观，是一个不断探索的永恒话题。
最近，OpenAI刚刚放出了「模型规范」，展示了团队如何给LLM列出「条条框框」，为其提供行为指南。
今天，Anthropic最新发布的「人工智能宪法」也给出了一个答案：
即赋予LLM由宪法确定的明确价值观，而不是通过大规模人类反馈来确定的隐性价值观。
虽然，这并不是一个完美的方法，但它确实让AI系统的价值观更容易理解，也让其根据需要进行调整。
Claude模型是Anthropic AI的最杰出的「作品」，也是经过 「人工智能宪法」训练不断完善。
自Claude推出以来，出现了很多关于「人工智能宪法 」如何让Claude变得更安全、更有帮助的问题。
接下来解释一下：什么是人工智能宪法，Claude宪法中的价值观是什么，以及我们是如何选择这些价值观的。
背景以前，人类对模型输出的反馈，隐含地决定

原文链接：对打GPT-4！Claude 3秘密武器曝光：Claude宪法

联系作者

文章来源：新智元
作者微信：AI_era
作者简介：智能+中国主平台，致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展，关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响，领航中国新智能时代。