选择/杂交/突变,DeepMind将自然选择引入LLM思维,实现心智进化

AIGC动态2个月前发布 机器之心
205 0 0

尤其擅长多阶段问题。

选择/杂交/突变,DeepMind将自然选择引入LLM思维,实现心智进化

原标题:选择/杂交/突变,DeepMind将自然选择引入LLM思维,实现心智进化
文章来源:机器之心
内容字数:11408字

进化式更深度LLM思维:Mind Evolution助力LLM推理能力提升

近日,一篇题为《Evolving Deeper LLM Thinking》的论文登上Hugging Face每日论文榜首,该论文提出了一种名为Mind Evolution的进化搜索策略,显著提升了大型语言模型(LLM)在自然语言规划任务中的推理能力。

1. Mind Evolution的核心思想

Mind Evolution利用基于语言的遗传算法,结合LLM和定制提示集,高效搜索自然语言规划任务的解决方案。它模拟自然选择过程,通过“选择”、“杂交”、“突变”和“岛屿模型”等机制,不断迭代优化候选解,最终找到最优解或达到预设迭代次数。

2. 基于语言的遗传算法

Mind Evolution的核心是基于语言的遗传算法。候选解以自然语言表示,LLM负责生成、重组和突变这些解。岛屿模型则通过多个演化的子种群和周期性的迁移与重置,维持种群多样性,避免陷入局部最优。

3. Mind Evolution的具体实现

Mind Evolution包含以下关键步骤:
(1) **种群初始化**: 通过LLM生成初始解,并通过“通过批评性对话进行优化(RCC)”进一步改进。
(2) **适应度评估**: 使用自定义函数评估解的质量,并提供反馈。
(3) **选择**: 使用玻尔兹曼锦标赛选择方法,选择适应度高的解进行繁殖。
(4) **杂交与突变**: 利用LLM和RCC过程,将选择的父代重组生成新的子代。
(5) **岛屿间迁移**: 周期性地将优秀解从一个岛屿迁移到另一个岛屿。
(6) **岛屿重置**: 定期用全局种群中的优秀解替换表现差的岛屿种群。

4. 实验结果与分析

Mind Evolution在三个自然语言规划基准(TravelPlanner,Trip Planning,Meeting Planning)上均显著优于Best-of-N和Sequential Revision等基线方法,成功率大幅提升。尤其是在TravelPlanner任务中,Mind Evolution几乎达到了完美的成功率。此外,论文还提出了一个更具挑战性的新任务StegPoet,Mind Evolution同样表现出色。

5. Mind Evolution的优势

实验结果表明,Mind Evolution在相同推理成本下,显著优于其他推理策略。其优势在于:
(1) 高效的搜索能力,能够在较少的迭代次数内找到高质量的解。
(2) 利用LLM强大的语言理解和生成能力,实现高效的重组和优化。
(3) 岛屿模型有效地维持种群多样性,避免局部最优。

总而言之,Mind Evolution为提升LLM的推理能力提供了一种新颖有效的策略,为未来LLM发展方向提供了新的思路。


联系作者

文章来源:机器之心
作者微信:
作者简介:专业的人工智能媒体和产业服务平台

阅读原文
© 版权声明
Trae官网

相关文章

Trae官网

暂无评论

暂无评论...