技术深度剖析
核心问题是序列决策中统计独立性的经典失败。当一个基于LLM的代理执行多步任务时，每一步——无论是函数调用、数据库查询还是推理步骤——都有出错概率。即使这个概率很低（5%），整体成功率也会随着步骤数量呈指数级衰减。这就是复合错误陷阱。
考虑一个典型的代理架构：一个规划器将用户请求分解为子任务，一个控制器将每个子任务分派给LLM或工具，一个执行器运行该操作。LLM在每一步的输出都取决于之前所有步骤的输出。如果第3步误解了第2步的结果，错误就会传播。代理没有内置机制来检测自己是否偏离轨道，更不用说恢复了。
来自多个研究团队的最新研究（例如'AgentBench'基准测试、'WebArena'环境）量化了这一点。在WebArena中，代理必须完成诸如'在旅游网站上预订具有特定设施的酒店房间'之类的任务。顶级模型（GPT-4、Claude 3.5）在需要10-15步的任务上的平均成功率约为35-40%。对于20步的任务，成功率降至20-25%。这与95%单步准确率下的理论值35.7%相符，但由于级联错误，实际表现往往更差。
为什么会发生这种情况？
1. 无内部状态验证： 代理不会检查其操作是否实际达到了预期效果。它假设成功。
2. 无回溯机制： 如果某一步失败，代理通常会带着被破坏的上下文继续执行，从而加剧错误。
3. 上下文窗口限制： 长推理链超出了有效上下文窗口，导致代理'忘记'之前的步骤或指令。
4. 工具调用脆弱性： API调用、数据库查询或网络交互可能因与LLM无关的原因（网络问题、速率限制、模式变更）而失败，而代理没有后备逻辑。
一个解决此问题的有前景的开源项目是'LangGraph'（GitHub: langchain-ai/langgraph，10k+星标）。LangGraph允许开发者构建循环图，代理可以在其中循环回到先前状态、验证结果并重试。另一个是'CrewAI'（GitHub: joaomdmoura/crewAI，25k+星标），它引入了一个'分层'流程，其中管理代理监控子代理的输出并可以请求重新执行。这些是早期步骤，但它们指明了方向：从线性链转向基于图、自我纠错的架构。
代理可靠性基准数据：
| 基准测试 | 任务类型 | 平均步骤数 | 顶级模型成功率 | 理论95%单步成功率 | 差距 |
|---|---|---|---|---|---|
| WebArena | 网页导航 | 12 | 38% (GPT-4) | 54% | -16% |
| AgentBench | 多工具 | 15 | 32% (Claude 3.5) | 46% | -14% |
| SWE-bench | 代码修复 | 8 | 48% (GPT-4) | 66% | -18% |
| 内部测试 (20步) | 数据管道 | 20 | 22% (GPT-4) | 36% | -14% |
数据要点： 理论成功率与实际成功率之间的差距表明，现实世界的代理遭受的不仅仅是独立错误——它们还遭受级联故障。14-18%的差距就是错误传播的代价。
关键参与者与案例研究
多家公司和研究团队正在积极解决这个问题，但大多数仍处于'演示'阶段。
1. OpenAI (GPT-4 + Function Calling)： OpenAI的函数调用是部署最广泛的代理框架。然而，它本质上是一个单轮工具使用系统。对于多步任务，开发者必须手动链式调用。OpenAI发布了带有持久线程和检索功能的'Assistants API'，但它仍然缺乏内置的自我纠错能力。结果是：使用它处理复杂工作流的企业报告，在超过5步的任务上失败率为30-40%。
2. Anthropic (Claude 3.5 + Tool Use)： Anthropic的Claude采用了一种'宪法性'方法，有时能帮助它检测自身推理中的矛盾。在内部测试中，Claude 3.5在10步任务上比GPT-4有5-8%的提升，但在20步时仍然急剧下降。他们的'Computer Use'测试版（Claude控制桌面）特别容易受到复合错误的影响。
3. Adept AI (ACT-1)： Adept的模型基于人机交互数据训练，可以执行多步GUI任务。他们在15步任务（例如'填写此保险表格'）上报告的成功率约为45%。他们使用'规划-然后-执行'架构，并带有单独的验证步骤，这减少了错误传播。
4. AutoGPT 和 BabyAGI (开源)： 这些自主代理的早期先驱展示了概念，但可靠性极差。AutoGPT在10步任务上的成功率低于20%，原因是无限循环和上下文损坏。它们凸显了对更好状态管理的需求。
代理框架比较：
| 框架 | 自我纠错 | 状态持久性 | 错误恢复 | 最大可靠步骤数 |
|---|---|---|---|---|