大语言模型自进化技术综述：概念框架，进化方向，经验获取，经验更新，评估方法，开放问题

AIGC动态欢迎阅读

原标题：大语言模型自进化技术综述：概念框架，进化方向，经验获取，经验更新，评估方法，开放问题
关键字：模型,任务,自我,方法,目标
文章来源：人工智能学家
内容字数：38943字

内容摘要：

我们翻译整理最新论文：大语言模型自我进化技术综述，文末有论文连接。
大型语言模型（LLMs）在各个领域和智能体应用中取得了显著进展。然而，当前从人类或外部模型监督中学习的LLMs成本高昂，并且随着任务复杂性和多样性的增加，可能会面临性能上限。为了解决这个问题，自进化方法使LLM能够自主地获取、完善和从模型自身生成的经验中学习，这种方在迅速发展。这种受人类经验学习过程启发的新训练范式，为将LLM扩展到超级智能提供了潜力。在本研究中，我们全面调查了LLM中的自进化方法。我们首先提出了一个自进化的概念框架，并概述了由四个阶段组成的迭代循环：经验获取、经验完善、更新和评估。其次，我们对LLM和基于LLM的智能体的进化目标进行了分类；然后，我们总结了文献并为每个模块提供了分类法和见解。最后，我们指出了现有的挑战，并提出了改进自进化框架的未来方向，为研究人员提供了关键见解，以加快自进化LLM的发展。
张长旺, 旺知识
1 引言
随着人工智能的快速发展，像 GPT-3.5 (Ouyang et al., 2022)、GPT-4 (Achiam et al., 2023)、Gemini (Team

原文链接：大语言模型自进化技术综述：概念框架，进化方向，经验获取，经验更新，评估方法，开放问题