港大最新研究成果：MiniRAG，「迷你版」RAG 小模型端侧可用

传统RAG系统的高资源需求和部署门槛一直是行业痛点。

原标题：港大最新研究成果：MiniRAG，「迷你版」RAG 小模型端侧可用
文章来源：AI科技评论
内容字数：6059字

MiniRAG：赋能小型模型的检索增强生成框架

香港大学黄超教授团队开发的MiniRAG框架，为解决传统检索增强生成（RAG）系统的高资源需求和部署门槛难题提供了创新方案。MiniRAG通过轻量级架构设计，使仅有1.5B参数的小型语言模型也能达到接近GPT-4mini的RAG任务性能，大幅降低了算力需求，并为端侧RAG系统部署提供了可能性。

1. MiniRAG的必要性：现有RAG系统的局限性

传统RAG系统依赖大型语言模型（LLMs），资源消耗巨大，难以在端侧设备部署。小型语言模型（SLMs）在现有RAG框架下的性能表现不佳，尤其在查询理解、多步推理等方面存在瓶颈。此外，数据隐私保护的日益重要也增加了对端侧RAG系统的需求。

2. MiniRAG的核心设计：轻量级架构创新

MiniRAG的核心在于其两大创新组件：语义感知异构图索引和轻量级图式知识检索。

1. 语义感知异构图索引：融合文本块和命名实体，构建层次化语义网络，提高检索准确度，并弥补小型模型在文本概括方面的不足。

2. 轻量级知识检索：采用图式知识检索机制，结合语义感知异构图和轻量级文本嵌入，在简化解析流程和拓扑增强检索策略下，降低对模型性能的要求，适合端侧设备运行。

同时，MiniRAG团队推出了LiHua-World数据集，模拟真实端侧场景，为轻量级RAG系统提供全面的评估工具。

3. 实验评估与分析：MiniRAG的性能优势

实验结果表明，现有RAG系统在迁移至小型模型时性能大幅下降，而MiniRAG的性能损失显著控制，展现出优异的模型适应性。MiniRAG在存储效率方面也取得了突破，仅需25%的存储空间即可达到与LightRAG相当的性能。消融实验进一步验证了MiniRAG各组件的有效性，特别是异构图索引和查询引导推理路径发现机制对提升性能的关键作用。

一个复杂的餐厅识别案例研究也展示了MiniRAG在处理多约束查询和克服小型模型局限性方面的优势。

4. 未来研究方向

未来的研究方向包括：增强小型语言模型的能力、扩展应用场景、优化隐私保护机制。

5. 总结

MiniRAG为端侧RAG系统提供了全新的解决方案，其轻量级架构、创新的索引和检索机制，突破了传统RAG系统的高资源需求瓶颈，为端侧知识检索与生成开辟了新的可能性，并有望推动RAG技术在端侧设备上的普及与应用。

联系作者

文章来源：AI科技评论
作者微信：
作者简介：雷峰网旗下AI新媒体。聚焦AI前沿研究，关注AI工程落地。