让模型畅所欲言不再Say No丨专访Dolphin开源模型作者Eric Hartford

AIGC动态欢迎阅读

原标题：让模型畅所欲言不再Say No丨专访Dolphin开源模型作者Eric Hartford
关键字：模型,数据,用户,系统,角色
文章来源：大数据文摘
内容字数：15830字

内容摘要：

大数据文摘授权转载自智源社区
采访：李梦佳“对不起，作为语言模型，我无法帮助你。”这是一段模型发出的常见回答，也是Eric Hartford 最初想要训练一个未经审查模型（uncensored model）的灵感来源。通过删除数据集中包含“对不起”“作为一个大语言模型”等词的交互案例，他尝试训练模型不要再拒绝回答。
Eric认为模型创建者不应将个人价值观内嵌于AI引擎之中，“在模型部署为应用程序之前，正确的做法是将其构建为不可知论，不关心边界和准则，因为你永远不知道谁将部署该系统且他们的价值观是什么。”
未经审查模型的训练思路是使用与训练其他模型完全相同的数据集，并在模型表达拒绝时随时过滤掉。由此，这类模型能够针对用户此前遭到大模型拒绝的问题或请求提供答案。Eric认为，未经审查模型在执法审查、制药和医疗等领域都有合法的应用场景。
如今，Eric开发的Dolphin模型可以围绕用户设定的场景化问题进行逐步推理和生成，上月下载量为9万次；另一个模型Samantha作为一个关心用户情感的AI，总下载量已达40万次。Eric计划将Dolphin迭代为一个绝对服从系统prompt的智能体，而S

原文链接：让模型畅所欲言不再Say No丨专访Dolphin开源模型作者Eric Hartford

联系作者

文章来源：大数据文摘
作者微信：BigDataDigest
作者简介：普及数据思维，传播数据文化