MaskSearch

MaskSearch – 阿里通义推出的检索增强预训练框架

MaskSearch是阿里巴巴通义实验室推出的创新型通用预训练框架，旨在提升大型语言模型（LLM）的智能体搜索能力。它通过检索增强掩码预测（RAMP）任务，让模型在输入文本中对关键信息进行掩码处理，并借助外部知识库调用搜索工具预测被掩盖的片段。该框架的功能包括提升问答性能、适应多种任务、兼容多种训练方法以及数据集扩展。

### MaskSearch： 解锁LLM智能体搜索的新篇章

在人工智能领域不断演进的浪潮中，阿里巴巴通义实验室隆重推出了MaskSearch，一款革新性的通用预训练框架，旨在大幅提升大型语言模型（LLM）在智能体搜索方面的卓越性能。 MaskSearch的核心目标在于增强LLM对复杂信息的理解与处理能力，从而使其能够更精准地检索、分析和生成信息。

### MaskSearch的核心功能

• 卓越的问答能力：MaskSearch显著增强了LLM在开放域多跳问答场景中的表现，尤其在领域内和领域外下游任务上，让模型能够更深入地理解复杂问题并给出精准解答。
• 广泛的任务适应性：凭借RAMP任务和多智能体生成的思维链数据，MaskSearch能够出色地适应各种问答任务，在不同应用场景下展现出卓越的性能。
• 灵活的训练方法：MaskSearch兼容监督学习（SFT）和强化学习（RL）两种训练方法，用户可以根据具体任务需求灵活选择合适的训练策略。
• 强大的数据集扩展能力：通过构建大规模预训练数据集（例如1000万样本），MaskSearch能够有效提升模型的训练效果和可扩展性，为未来发展奠定坚实基础。

### MaskSearch的技术精髓

• 检索增强掩码预测（RAMP）任务：RAMP任务是MaskSearch的核心，它借鉴了BERT的掩码机制，让模型在输入文本序列中对关键信息进行掩码处理。随后，模型会主动利用外部知识库，调用搜索工具来预测这些被掩盖的文本片段。除了常见的命名实体、日期、数字等，RAMP还涵盖了本体知识、特定术语和数值等关键信息，从而增加了任务的挑战性，促使模型在检索和推理过程中更加精细化地处理信息。
• 多智能体协同生成思维链（CoT）数据：为了生成用于监督微调（SFT）的思维链数据，MaskSearch采用了多智能体系统，包括规划者、重写者、观察者等角色，协同完成思维链的生成任务，最终由一个LLM负责答案判断，仅保留正确答案的思维链。为了快速扩展数据集并保持高质量，使用已有数据训练后的教师模型，直接生成推理轨迹，逐步迭代教师模型，逐步提升数据质量。
• 强化学习（RL）的创新实践：在强化学习环节，MaskSearch采用了动态采样策略优化（DAPO）算法，构建混合奖励系统，包括格式奖励和回答奖励。格式奖励用于检查模型输出是否符合指定格式，回答奖励则评估生成答案与标准答案的一致性。最终选择基于模型的奖励函数，使用Qwen2.5-72B-Instruct模型作为评判，为生成答案和标准答案的一致性进行打分。
• 课程学习的巧妙运用：MaskSearch引入了课程学习策略，依据掩码数量对训练样本进行难度分级，引导模型从易到难循序渐进地学习，逐步提升其解决问题的能力。

### 了解更多

* **项目地址：** https://github.com/Alibaba-NLP/MaskSearch
* **技术论文：** https://arxiv.org/pdf/2505.20285

### MaskSearch的应用场景

• 智能客服：在智能客服领域，MaskSearch能够帮助客服系统更精准地理解用户问题，迅速检索到相关的答案和信息，从而提升客服效率和用户满意度。
• 教育领域：在教育领域，MaskSearch可以用于构建智能辅导系统，帮助学生更好地理解和解决复杂的学术问题。它能够根据学生的问题，检索相关的知识点和解答，提供个性化的学习支持。
• 企业级搜索系统：企业级搜索系统需要处理大量的内部数据和复杂的查询需求。MaskSearch可以增强企业搜索系统的检索能力，能够更准确地理解用户查询意图，从海量数据中快速检索到相关信息，从而提高企业决策效率。
• 机器学习模型的调试与优化：MaskSearch还可以应用于机器学习模型的调试与优化。例如，在调试图像分类模型时，MaskSearch可以帮助用户通过掩码属性查询图像数据库，识别模型学习到的虚假相关性，探索模型显著性与人类注意力之间的差异。

### 常见问题

Q: MaskSearch与传统的LLM预训练框架相比，有哪些优势？

A: MaskSearch的核心优势在于其独特的RAMP任务和多智能体协同生成的思维链数据，这使得模型在处理复杂问题和进行信息检索时表现更出色。此外，其兼容多种训练方法和数据集扩展能力，也使其更具灵活性和可扩展性。

Q: MaskSearch适用于哪些类型的任务？

A: MaskSearch特别适用于需要进行复杂推理和信息检索的问答任务，例如开放域多跳问答、智能客服、教育辅导等。同时，它也可以应用于机器学习模型的调试与优化。