技术深度解析
一个典型智能体AI系统的架构看似简单：一个规划器（通常是LLM）、一组工具或API、以及一个记忆模块。规划器将用户目标分解为子任务，选择合适的工具，并按顺序或并行执行它们。但每个此类框架中都隐含着一个关键假设：这些工具——即“专家”——既可靠又完整。
然而在现实中，这些专家系统往往是遗留数据库、未文档化的API或专有知识图谱，它们从未被设计用于自主消费。例如，一个报税智能体可能调用IRS税法API，该API针对某个特定边缘案例（如加密货币质押收入）返回了模糊或过时的规则。LLM缺乏验证专家输出的机制，便基于有缺陷的逻辑继续执行，导致错误的申报。
这是一个经典的“垃圾进，垃圾出”问题，但有一个转折：智能体很难检测到垃圾。专家系统是一个黑箱——没有来源追溯，没有版本历史，没有置信度分数。智能体无从知晓专家是在“幻觉”还是仅仅过时了。
几个开源项目正试图解决这一问题。LangChain生态系统（GitHub星标超9万）引入了“工具包”概念，将多个工具与元数据捆绑在一起，但元数据本身通常由人工维护，很快就会过时。AutoGPT（星标超16万）普及了智能体循环，但饱受不可靠工具调用之苦，导致无限循环或荒谬操作。一个更有前景的方法是CrewAI（星标超2.5万），它允许多个智能体协作，每个智能体都有明确的角色和专长。然而，即使是CrewAI的智能体，其表现也取决于它们被赋予的工具。
新兴的解决方案是“专家注册表”——一个集中式、受版本控制的领域特定知识与工具仓库，每个条目都带有数字签名、置信区间和测试套件。这在概念上类似于npm这样的包管理器，但面向的是AI可访问的专长。例如，一个医疗诊断智能体不会仅仅调用一个通用的症状检查API；它会查询注册表中“心脏病学症状检查器v2.1”的条目，该条目包含已知准确率、它能处理的边缘案例列表，以及底层临床试验数据的链接。
| 架构组件 | 当前状态 | 理想状态（专家注册表） |
|---|---|---|
| 知识源 | 黑箱API、静态数据库 | 版本化、可审计、带置信度评分 |
| 工具选择 | LLM从扁平列表中选取 | 基于注册表，带兼容性检查 |
| 错误处理 | 重试或失败 | 回退到替代专家，附带解释 |
| 更新频率 | 手动、不频繁 | 自动化CI/CD流水线，带测试覆盖 |
数据要点： 该表格凸显了当前临时性的工具集成与生产级智能体所需的严谨软件工程方法之间的差距。没有版本控制和测试覆盖，每一次智能体部署都是一场赌博。
关键参与者与案例研究
多家公司和研究团队正在积极解决这一问题，尽管很少有人公开承认“专家瓶颈”是其核心关注点。
OpenAI一直在悄然为其GPTs构建“Actions”框架，允许开发者向模型暴露API。然而，这些操作的质量完全取决于用户——OpenAI不提供任何审查或版本控制。这是一个经典的平台策略：让其他人解决信任问题。相比之下，Anthropic采取了更为谨慎的方法，强调“宪法AI”和工具使用安全。其Claude 3.5 Sonnet模型在使用工具调用API时，可以在专家系统返回模糊结果时请求澄清——这是一种原始形式的信任验证。
微软可能是最激进的。其Copilot生态系统，尤其是在Azure中，正在集成“知识连接器”，这些连接器映射到具有内置治理功能的企业数据库。Azure AI Studio允许开发者创建“自定义索引”，这些索引是版本化且可审计的。这本质上就是面向企业数据的专家注册表。
一家值得注意的初创公司是Fixie.ai（最近被一家主要云提供商收购），它构建了一个“带护栏的AI智能体”平台。其方法涉及一个“工具知识图谱”，其中每个工具都有明确的契约（输入、输出、错误代码）。另一家是Reworkd，专注于能够适应网站变化的网页抓取智能体——一种动态专家系统。
在研究方面，Meta的Toolformer论文（2023年）具有开创性，它展示了LLM可以通过自监督学习学会使用API。但该论文假设API是完美的。斯坦福大学CRFM关于“ToolQA”基准测试的最新研究表明，当API返回不完整或矛盾的数据时，即使最先进的智能体也会失败。
| 公司/项目 | 方法 | 专家注册表？ | 关键洞察 |
|---|---|---|---|
| OpenAI Actions | 开发者定义API，无审查 | 否 | 平台策略，信任问题留给他人 |
| Anthropic Claude | 工具使用安全，可请求澄清 | 部分 | 强调安全，但缺乏系统化注册表 |
| Microsoft Copilot | 知识连接器，自定义索引 | 是（企业级） | 最接近生产级专家注册表 |
| Fixie.ai | 带契约的工具知识图谱 | 是 | 被收购，验证了注册表概念 |
| Reworkd | 自适应网页抓取智能体 | 否 | 针对动态环境的专家系统 |
| Meta Toolformer | 自监督API学习 | 否 | 开创性但假设API完美 |
| Stanford CRFM ToolQA | 基准测试揭示API失败 | 否 | 量化了专家系统不可靠性的影响 |