谷歌：LLM找不到推理错误，但能纠正它

AIGC动态欢迎阅读

原标题：谷歌：LLM找不到推理错误，但能纠正它

关键字：错误,轨迹,模型,方法,报告

文章来源：机器之心

内容字数：8321字

内容摘要：机器之心报道编辑：PandaLLM 找不到推理错误，但却能纠正错误！今年，大型语言模型（LLM）成为 AI 领域关注的焦点。LLM 在各种自然语言处理（NLP）任务上取得了显著的进展，在推理方面的突破尤其令人惊艳。但在复杂的推理任务上，LLM 的表现仍然欠佳。那么，LLM 能否判断出自己的推理存在错误？最近，剑桥大学和 Google Research 联合开展的一项研究发现：LLM 找不到推理错误，但却能使用该研究提出的回溯（backtracking）方法纠正错误。论文地址：https://arxiv.org/pdf/2311.08516.pdf数据集地址：https://github.com/WHGTyen/BIG-Bench-Mistake这篇论文引起了一些争论，有人提出异议，比如在 Hacker News 上，有人评论这篇论文的标题言过其实，有些标题党。也有人批评说其中提出的校正逻辑…

原文链接：点此阅读原文：谷歌：LLM找不到推理错误，但能纠正它

联系作者

文章来源：机器之心

作者微信：almosthuman2014

作者简介：专业的人工智能媒体和产业服务平台