选择/杂交/突变，DeepMind将自然选择引入LLM思维，实现心智进化

尤其擅长多阶段问题。

原标题：选择/杂交/突变，DeepMind将自然选择引入LLM思维，实现心智进化
文章来源：机器之心
内容字数：11408字

进化式更深度LLM思维：Mind Evolution助力LLM推理能力提升

近日，一篇题为《Evolving Deeper LLM Thinking》的论文登上Hugging Face每日论文榜首，该论文提出了一种名为Mind Evolution的进化搜索策略，显著提升了大型语言模型(LLM)在自然语言规划任务中的推理能力。

1. Mind Evolution的核心思想

Mind Evolution利用基于语言的遗传算法，结合LLM和定制提示集，高效搜索自然语言规划任务的解决方案。它模拟自然选择过程，通过“选择”、“杂交”、“突变”和“岛屿模型”等机制，不断迭代优化候选解，最终找到最优解或达到预设迭代次数。

2. 基于语言的遗传算法

Mind Evolution的核心是基于语言的遗传算法。候选解以自然语言表示，LLM负责生成、重组和突变这些解。岛屿模型则通过多个演化的子种群和周期性的迁移与重置，维持种群多样性，避免陷入局部最优。

3. Mind Evolution的具体实现

Mind Evolution包含以下关键步骤：
(1) **种群初始化**: 通过LLM生成初始解，并通过“通过批评性对话进行优化(RCC)”进一步改进。
(2) **适应度评估**: 使用自定义函数评估解的质量，并提供反馈。
(3) **选择**: 使用玻尔兹曼锦标赛选择方法，选择适应度高的解进行繁殖。
(4) **杂交与突变**: 利用LLM和RCC过程，将选择的父代重组生成新的子代。
(5) **岛屿间迁移**: 周期性地将优秀解从一个岛屿迁移到另一个岛屿。
(6) **岛屿重置**: 定期用全局种群中的优秀解替换表现差的岛屿种群。

4. 实验结果与分析

Mind Evolution在三个自然语言规划基准(TravelPlanner,Trip Planning,Meeting Planning)上均显著优于Best-of-N和Sequential Revision等基线方法，成功率大幅提升。尤其是在TravelPlanner任务中，Mind Evolution几乎达到了完美的成功率。此外，论文还提出了一个更具挑战性的新任务StegPoet，Mind Evolution同样表现出色。

5. Mind Evolution的优势

实验结果表明，Mind Evolution在相同推理成本下，显著优于其他推理策略。其优势在于：
(1) 高效的搜索能力，能够在较少的迭代次数内找到高质量的解。
(2) 利用LLM强大的语言理解和生成能力，实现高效的重组和优化。
(3) 岛屿模型有效地维持种群多样性，避免局部最优。

总而言之，Mind Evolution为提升LLM的推理能力提供了一种新颖有效的策略，为未来LLM发展方向提供了新的思路。

联系作者

文章来源：机器之心
作者微信：
作者简介：专业的人工智能媒体和产业服务平台