RAG还是微调？微软出了一份特定领域大模型应用建设流程指南

AIGC动态欢迎阅读

原标题：RAG还是微调？微软出了一份特定领域大模型应用建设流程指南
关键字：模型,报告,问题,本文,答案
文章来源：机器之心
内容字数：11807字

内容摘要：

机器之心报道
编辑：rome检索增强生成（RAG）和微调（Fine-tuning）是提升大语言模型性能的两种常用方法，那么到底哪种方法更好？在建设特定领域的应用时哪种更高效？微软的这篇论文供你选择时进行参考。在构建大语言模型应用程序时通常有两种常见的方法来整合专有和特定领域的数据：检索增强生成和微调。检索增强生成通过外部数据增强提示，而微调将额外的知识整合到模型本身中。不过，对这两种方法的优缺点了解的却不够充分。
本文中，来自微软的研究者引入一个新的关注点：为需要特定背景和自适应响应的行业（农业）创建 AI 助手。本文提出了一个全面的大语言模型流程，用于生成高质量的、行业特定的问题和答案。该方法包含一个系统化的过程，包括鉴别和收集涵盖广泛农业主题的相关文档。接着清理和结构化这些文档，以便使用基本的 GPT 模型生成有意义的问答对。生成的问答对随后根据其质量进行评估和筛选。
本文的目标是为特定行业创建有价值的知识资源，以农业为案例研究，最终的目标是能为 LLM 在农业领域的发展做出贡献。论文地址：https://arxiv.org/pdf/2401.08406.pdf
论文标题：RAG

原文链接：RAG还是微调？微软出了一份特定领域大模型应用建设流程指南