对打GPT-4！Claude 3秘密武器曝光：Claude宪法

AIGC动态欢迎阅读

原标题：对打GPT-4！Claude 3秘密武器曝光：Claude宪法
关键字：宪法,人工智能,模型,原则,价值观
文章来源：新智元
内容字数：5205字

内容摘要：

新智元报道编辑：Henry
【新智元导读】Anthropic发布最新Claude宪法，兼具标准性和灵活性。语言模型如何决定它将涉及哪些问题，哪些问题它认为不合适涉及？为什么它会鼓励某些行为，而阻止另一些行为？语言模型有哪些「价值观」？如何让大模型的响应符合伦理价值观，是一个不断探索的永恒话题。
最近，OpenAI刚刚放出了「模型规范」，展示了团队如何给LLM列出「条条框框」，为其提供行为指南。
今天，Anthropic最新发布的「人工智能宪法」也给出了一个答案：
即赋予LLM由宪法确定的明确价值观，而不是通过大规模人类反馈来确定的隐性价值观。
虽然，这并不是一个完美的方法，但它确实让AI系统的价值观更容易理解，也让其根据需要进行调整。
Claude模型是Anthropic AI的最杰出的「作品」，也是经过「人工智能宪法」训练不断完善。
自Claude推出以来，出现了很多关于「人工智能宪法」如何让Claude变得更安全、更有帮助的问题。
接下来解释一下：什么是人工智能宪法，Claude宪法中的价值观是什么，以及我们是如何选择这些价值观的。
背景以前，人类对模型输出的反馈，隐含地决定

原文链接：对打GPT-4！Claude 3秘密武器曝光：Claude宪法