LangChain：2024 年 AI 应用开发报告

原标题：LangChain：2024 年 AI 应用开发报告
文章来源：特工宇宙
内容字数：4355字

LangChain 2024 年 LLM 应用开发趋势洞察

LangChain 生态系统在 2024 年蓬勃发展，其一体化 LLM 应用开发平台 LangSmith 吸引了近百万用户注册。通过分析 LangSmith 上数百万次 LLM 应用追踪数据，我们对 LLM 应用开发的趋势有了更清晰的认识。本文将分享一些关键发现，展现 LLM 应用构建的实践演进。

基础设施：开源模型崛起与部署方式多元化

OpenAI 依然占据 LLM 提供商榜首，但开源模型的势头不容小觑。Ollama 和 Groq 等开源模型提供商快速崛起，进入前五名。Ollama 专注本地部署，Groq 则侧重云端部署，这体现了开发者对灵活部署和定制化基础设施日益增长的需求。开源模型的整体使用率约占前 20 名 LLM 提供商的 20%，显示出其在 LLM 应用开发中的重要性。

数据存储：向量数据库的应用与选择

在检索技术方面，Chroma 和 FAISS 依然是最受欢迎的向量数据库。Milvus、MongoDB 和 Elastic 等数据库也跻身前十，显示出向量数据库市场的多样化发展。这反映了开发者对高效存储和检索向量数据的日益重视，以支持更复杂的 LLM 应用。

应用构建：Agent 模式兴起与复杂工作流的构建

LangChain 用户构建的应用越来越多样化，从简单的问答到复杂的 Agent 工作流，创新层出不穷。 Agent 模式应用日益普及，LangChain 自研的 Agent 框架 LangGraph 的使用率达到 43%，体现了开发者对构建更智能、更自主的 Agent 的兴趣。工具调用的平均次数大幅增加，从 2023 年的 0.5 次增加到 2024 年的 21.9%，这表明 Agent 能够更有效地与外部系统交互，完成更复杂的任务。

开发工具与语言：Python 继续领先，JavaScript 增长迅速

Python 仍然是 LLM 应用开发的主导语言，占据 84.7% 的市场份额。然而，JavaScript 的使用量增长了三倍，达到 15.3%，这与 Web 应用开发的增长趋势相符。开发者对不同编程语言的需求日益多样化。

可观测性：超越 LangChain 框架

尽管 LangChain 是许多 LLM 应用开发的核心，但 15.7% 的 LangSmith 用户来自非 LangChain 框架。这表明，无论使用何种框架，对 LLM 应用的可观测性需求都在增加，开发者需要有效地监控和调试其应用。

性能与优化：更复杂、更高效的应用

每个追踪的平均步骤数从 2023 年的 2.8 步增加到 2024 年的 7.7 步，显示应用复杂性显著提升。然而，平均 LLM 调用次数的增长相对较慢，这表明开发者更注重优化，在减少 LLM 调用次数的同时实现更复杂的功能，从而降低成本。

测试与评估：自动化测试和迭代改进

开发者越来越重视测试和评估。LangSmith 的评估功能被广泛用于自动化测试，并通过收集用户反馈来迭代改进应用。相关性、正确性、精确匹配度和有用性是开发者测试中最关注的维度。通过人类反馈的迭代，开发者能够创建更强大、更可靠的 LLM 应用。带有注释的运行次数增长了 18 倍，这表明开发者积极利用人类反馈来改进其模型。

总结：迈向更智能、更高效、更可靠的 LLM 应用

2024 年 LLM 应用开发呈现出向更复杂、更高效、更可靠的方向发展趋势。Agent 模式的兴起、开源模型的普及、以及对可观测性和测试的重视，都推动着 LLM 应用生态的不断成熟。未来，我们期待看到开发者如何探索更智能的工作流，构建更强大的 LLM 应用。

联系作者

文章来源：特工宇宙
作者微信：
作者简介：Agent Universe，专注于智能体的AI科技媒体。