重要的事情说两遍！Prompt「复读机」，显著提高LLM推理能力

AIGC动态欢迎阅读

原标题：重要的事情说两遍！Prompt「复读机」，显著提高LLM推理能力
关键字：问题,数据,提示,应用题,模型
文章来源：新智元
内容字数：0字

内容摘要：

新智元报道编辑：alan
【新智元导读】尽管大模型能力非凡，但干细活的时候还是比不上人类。为了提高LLM的理解和推理能力，Prompt「复读机」诞生了。众所周知，人类的本质是复读机。
我们遵循复读机的自我修养：敲黑板，划重点，重要的事情说三遍。
but，事实上同样的方法对付AI也有奇效！
有研究证明，在提问的时候故意重复一遍——也就是复制粘贴，即可显著提高LLM的推理能力。
论文地址：https://arxiv.org/pdf/2309.06275
看下面的例子：
作者认为，通常情况下，问题中的重点token（比如这里的tennis balls）无法看到位于它后面的token（上图）。
相比之下，使用重读（re-reading，RE2）的方法，允许「tennis balls」在第二遍中看到自己对应的整个问题（How many tennis balls does he have now?），从而达到双向理解的效果（下图）。
实验表明，在14个数据集上的112个实验中，RE2技术都能带来一致的性能提升，无论是经过指令调整的模型（如ChatGPT），还是未经调整的模型（如Llama）。
实

原文链接：重要的事情说两遍！Prompt「复读机」，显著提高LLM推理能力