大模型没有自我改进能力?苏黎世理工联合Meta AI提出小模型架构,显著提升大模型表现

AIGC动态1年前 (2023)发布 夕小瑶科技说
18 0 0

大模型没有自我改进能力?苏黎世理工联合Meta AI提出小模型架构,显著提升大模型表现

AIGC动态欢迎阅读

原标题:大模型没有自我改进能力?苏黎世理工联合Meta AI提出小模型架构,显著提升大模型表现

关键字:模型,数据,问题,性能,样本

文章来源:夕小瑶科技说

内容字数:6874字

内容摘要:夕小瑶科技说 原创作者 | 谢年年、python前段时间,多位大佬发文指出大模型没有自我改进的能力,甚至自我改进之后,回答质量还会明显下降。自我改进之所以不奏效,是因为LLM并不能准确判断原答案是否错误以及是否需要改进。近日,苏黎世理工与Meta AI提出一种改进大模型推理答案的策略——ART: Ask, Refine,and Trust,该方法通过提出必要的问题来决定LLM是否需要改进原始输出,并通过对初步输出和改进输出进行评估确定最终的答案,在两个多步推理任务GSM8K和StrategyQA中,ART相对于之前模型自我改进的方法,提升了约5个百分点。论文标题:The ART of LLM Refinement: Ask, Refine, and Trust论文链接:https://arxiv.org/pdf/2311.07961.pdf方法方法速览整体框架如下图所示,作者分别使用与任务…

原文链接:点此阅读原文:大模型没有自我改进能力?苏黎世理工联合Meta AI提出小模型架构,显著提升大模型表现

联系作者

文章来源:夕小瑶科技说

作者微信:xixiaoyaoQAQ

作者简介:更快的AI前沿,更深的行业洞见。聚集25万AI应用开发者、算法工程师和研究人员。一线作者均来自清北、国外顶级AI实验室和互联网大厂,兼备媒体sense与技术深度。

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...