月之暗面对谈 Zilliz：长文本和 RAG 如何选择？

AIGC动态欢迎阅读

原标题：月之暗面对谈 Zilliz：长文本和 RAG 如何选择？
关键字：模型,腾讯,文本,向量,成本
文章来源：Founder Park
内容字数：0字

内容摘要：

关于长文本和 RAG 到底如何选择，一直有争论，从基模公司到应用开发者。
今天这篇文章，是来自基模公司月之暗面和中间层 Zilliz 的技术对话，值得一看。
本期讨论会参与者：
陈将老师：Zilliz 生态和 AI 平台负责人
唐飞虎老师：月之暗面研发工程师，开发者关系负责人
主持人：周默：粉碎机，前美元对冲基金投资人，曾在腾讯与微软从事战略与投资业务01长文本与RAG通用对比准确率：通常情况下长文本优于RAG
长文本：可更加综合的去分析所有相关的内容，提取相关数字，生成图表，效果尚可。
RAG：更适合找到一段或者是几段可能相关的段落。如果希望大模型能够对问题有全局的认识，比较困难。如，根据上市公司的2020年财务报表，绘制图表，直接用RAG可能效果就不是很好。
长文本在准确性上表现好的原因，以及长度与准确性选择
长文本处理之后，会做对齐和专门的Benchmark测试调整。比如说之前的大海捞针以及腾讯的数星星的Benchmark，这些是更难一些要求，不仅要找到相关的位置，还得把具体的数字给出来。
现在也出现了一些新的关于长文本模型的bench mark，比如legal bench，

原文链接：月之暗面对谈 Zilliz：长文本和 RAG 如何选择？