2024年，百万上下文依然没有RAG

3大行业AI落地经验揭秘

原标题：2024年，百万上下文依然没有RAG
文章来源：量子位
内容字数：6824字

RAG：大模型落地的关键枢纽，远未过时

本文总结了AICon全球人工智能大会《Techo Day-RAG应用与实践》专场的内容，探讨了检索增强生成（RAG）技术在大模型落地中的重要作用，以及腾讯云在其中的实践经验。

1. RAG的持续价值

尽管有人预测随着基础模型能力增强，RAG会过时，但事实证明这种预测屡屡落空。 百万上下文长度模型和强大的Agent出现，都未能取代RAG。 原因在于，当大模型应用于实际场景（工厂、企业、教育、金融等）时，它需要访问并处理海量、动态更新的企业内部数据。 而RAG正是连接大模型与这些数据的关键枢纽，它让大模型能够实时获取最新知识，成为真正“能干活”的行业助手。

2. 不同行业中的RAG应用

文章通过教育、制造、金融三个行业的案例，展示了RAG的实际应用价值：

1. 教育行业： RAG解决了教研资料、题库等知识快速更新迭代的需求，以及学生提问泛化的问题，提高了在线教学效果并降低了人力成本。腾讯云向量数据库帮助某教企优化了RAG方案，解决了语义分析中QA对拆分错误的问题，实现了秒级响应。
2. 制造行业： 面对制造业文档数量庞大、格式多样、内容复杂等挑战，腾讯云大模型知识引擎帮助万榕信息整合了行业知识，实现了快速定位信息、归纳处理意见等功能，缩短了工程师培养周期，并提升了工作效率。
3. 金融行业： 招商证券利用腾讯云AI代码助手，构建了私有化部署的智能化金融科技研发工具，提升了研发效率，并解决了金融行业对合规和安全性的高要求。 推广过程中，腾讯云的经验也帮助招商证券建立了有效的推广运营机制。

3. 腾讯云的优势

文章指出，以上案例的成功都离不开腾讯云的支持。腾讯云的优势在于：

1. 长期技术积累和内部验证： 腾讯云向量数据库在腾讯内部已广泛应用，技术成熟可靠。
2. 丰富的服务生态与快速迭代能力： 腾讯云能够根据客户需求提供灵活的解决方案，并快速响应和迭代产品。

4. RAG的未来发展

文章预测，RAG技术将持续演进，提高检索效率、提升多模态数据处理能力、降低用户使用门槛，并在更多场景中得到应用。 未来，谁能更好地利用RAG让大模型“用得起来”，谁就能在产业智能化浪潮中占据先机。

联系作者

文章来源：量子位
作者微信：
作者简介：追踪人工智能新趋势，关注科技行业新突破