吃“有毒”数据，大模型反而更听话了！来自港科大&华为诺亚方舟实验室

AIGC动态欢迎阅读

原标题：吃“有毒”数据，大模型反而更听话了！来自港科大&华为诺亚方舟实验室

关键字：华为,模型,错误,指令,诺亚方舟

文章来源：量子位

内容字数：5646字

内容摘要：港科大 华为诺亚方舟实验室量子位 | 公众号 QbitAI现在，大模型也学会“吃一堑，长一智”了。来自香港科技大学和华为诺亚方舟实验室的最新研究发现：相比于一味规避“有毒”数据，以毒攻毒，干脆给大模型喂点错误文本，再让模型剖析、反思出错的原因，反而能够让模型真正理解“错在哪儿了”，进而避免胡说八道。具体而言，研究人员提出了“从错误中学习”的对齐框架，并通过实验证明：让大模型“吃一堑，长一智”，在纠…

原文链接：点此阅读原文：吃“有毒”数据，大模型反而更听话了！来自港科大&华为诺亚方舟实验室

联系作者

文章来源：量子位

作者微信：QbitAI

作者简介：追踪人工智能新趋势，关注科技行业新突破