AI慢思考蒸馏进快思考，Llama2跃升至GPT-4水平，不写过程也能做对题

AIGC动态欢迎阅读

原标题：AI慢思考蒸馏进快思考，Llama2跃升至GPT-4水平，不写过程也能做对题
关键字：系统,模型,数据,任务,方法
文章来源：量子位
内容字数：0字

内容摘要：

克雷西发自凹非寺量子位 | 公众号 QbitAI《思考快与慢》中人类的两种思考方式，属实是被Meta给玩明白了。
研究人员通过把AI的“慢思考”结果蒸馏进“快思考”，让Llama2表现提升了257%，变得比GPT4还能打，同时还能降低推理成本。
这里的快慢两种思考方式，指的就是2002年诺贝尔经济学奖得主丹尼尔·卡尼曼推广的系统1和系统2——
简单说，系统1是简单无意识的直觉，速度更快；系统2则是复杂有意识的推理，准确性更强。
Meta所做的“蒸馏”，就是用系统2生成数据，然后对用系统1推理的模型进行微调。
有网友看了后表示，这种模式和人类很像，一旦解决了一个难题，再解决（相似的问题）就变得简单了。
将系统2蒸馏到系统1对于大模型而言，模仿人类的“系统2”的方式有很多种，在模型中所处的环节也不尽相同，这里作者一共研究了四种：
CoT，即Chain of Thought，思维链，从提示词入手让模型逐步思考；
S2A，即System 2 Attention，由Meta自己提出，直接修改了模型的注意力机制，屏蔽与任务无关的信息；
RaR，即Rephase and Respond，先对问题

原文链接：AI慢思考蒸馏进快思考，Llama2跃升至GPT-4水平，不写过程也能做对题