OpenAI 最强竞对 Anthropic：如何构建有效的 Agent

在过去的一年里，我们与数十个团队合作，在各个行业构建了很多大型语言模型（LLM）Agent。

原标题：OpenAI 最强竞对 Anthropic：如何构建有效的 Agent
文章来源：AI前线
内容字数：11837字

高效构建大型语言模型 (LLM) Agent 的实用指南

本文总结了Anthropic公司在过去一年中与数十个团队合作构建大型语言模型Agent的经验，并提供了开发人员构建有效Agent的实用建议。文章的核心观点是：成功的关键不在于构建最复杂的系统，而在于构建最适合需求的系统，并强调简单性、透明度和精心设计的Agent-计算机接口 (ACI)。

1. 什么是Agent？

文章将Agent定义为由LLM动态指导其自身流程和工具使用的系统，与预定义工作流的系统形成对比。工作流通过预定义代码路径编排LLM和工具，而Agent则由LLM动态控制其完成任务的方式。 文章还介绍了两种Agent系统：完全自主的系统和遵循预定义工作流的系统。

2. 何时使用（以及何时不使用）Agent

文章建议优先选择最简单的解决方案，仅在需要时增加复杂性。Agent系统通常会牺牲延迟和成本来换取更好的任务性能，因此需要权衡利弊。工作流更适合明确定义的任务，而Agent更适合需要大规模灵活性和模型驱动决策的任务。对于许多应用，优化单个LLM调用就足够了。

3. 何时以及如何使用框架

文章介绍了一些可以简化Agent系统实现的框架，例如LangChain的LangGraph、Amazon Bedrock的AI Agent框架等。但同时也指出这些框架可能会增加额外的抽象层，使调试更困难，并可能让人倾向于增加不必要的复杂性。文章建议开发人员一开始直接使用LLM API，并在需要时再使用框架，并确保理解底层代码。

4. 构建块、工作流和Agent

文章详细介绍了构建Agent系统的构建块和几种常见的工作流模式，包括：提示链、路由、并行化（分段和投票）、编排器-工作者和评估器-优化器。每种模式都说明了其适用场景和示例。

5. Agent 的使用场景和实现

文章阐述了Agent的优势，尤其是在处理开放式问题和需要多步骤决策的任务方面。Agent的自主性使其能够计划和运作，但同时也带来了更高的成本和潜在的复合错误风险。文章建议在受信任的环境中进行广泛测试，并采用适当的防护措施。并举例说明了编程Agent和计算机使用Agent。

6. 组合和自定义模式

文章强调构建块的灵活性，开发人员可以根据不同用例进行组合和自定义。成功的关键在于衡量性能并迭代实现，避免不必要的复杂性。

7. 总结和核心原则

文章总结了构建高效Agent系统的三个核心原则：保持简单性、优先考虑透明度和精心设计Agent-计算机接口(ACI)。建议从简单的提示开始，逐步增加复杂性，并始终关注性能评估和迭代改进。

8. 附录：实践中的Agent和工具提示工程

附录部分提供了两个Agent应用的实际案例：客户支持和编程Agent，并详细阐述了如何对工具进行提示工程，以优化Agent的性能和可靠性，强调了良好的Agent-计算机接口(ACI)设计的重要性。

联系作者

文章来源：AI前线
作者微信：
作者简介：面向AI爱好者、开发者和科学家，提供大模型最新资讯、AI技术分享干货、一线业界实践案例，助你全面拥抱AIGC。