大语言模型自进化技术综述:概念框架,进化方向,经验获取,经验更新,评估方法,开放问题

大语言模型自进化技术综述:概念框架,进化方向,经验获取,经验更新,评估方法,开放问题

AIGC动态欢迎阅读

原标题:大语言模型自进化技术综述:概念框架,进化方向,经验获取,经验更新,评估方法,开放问题
关键字:模型,任务,自我,方法,目标
文章来源:人工智能学家
内容字数:38943字

内容摘要:


我们翻译整理最新论文:大语言模型自我进化技术综述,文末有论文连接。
大型语言模型(LLMs)在各个领域和智能体应用中取得了显著进展。然而,当前从人类或外部模型监督中学习的LLMs成本高昂,并且随着任务复杂性和多样性的增加,可能会面临性能上限。为了解决这个问题,自进化方法使LLM能够自主地获取、完善和从模型自身生成的经验中学习,这种方法正在迅速发展。这种受人类经验学习过程启发的新训练范式,为将LLM扩展到超级智能提供了潜力。在本研究中,我们全面调查了LLM中的自进化方法。我们首先提出了一个自进化的概念框架,并概述了由四个阶段组成的迭代循环:经验获取、经验完善、更新和评估。其次,我们对LLM和基于LLM的智能体的进化目标进行了分类;然后,我们总结了文献并为每个模块提供了分类法和见解。最后,我们指出了现有的挑战,并提出了改进自进化框架的未来方向,为研究人员提供了关键见解,以加快自进化LLM的发展。
张长旺, 旺知识
1 引言
随着人工智能的快速发展,像 GPT-3.5 (Ouyang et al., 2022)、GPT-4 (Achiam et al., 2023)、Gemini (Team


原文链接:大语言模型自进化技术综述:概念框架,进化方向,经验获取,经验更新,评估方法,开放问题

联系作者

文章来源:人工智能学家
作者微信:AItists
作者简介:致力成为权威的人工智能科技媒体和前沿科技研究机构

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...