技术深度解析
决策核心范式从根本上重构了LLM的交互循环。它摒弃了传统的`用户输入 → LLM（推理+生成） → 输出`模式，引入了一个显式的中间层：`用户输入 → 决策核心（上下文分析+策略检查+动作选择） → 执行引擎（专用LLM/工具） → 输出`。
从技术实现看，这种分离主要通过以下几种新兴模式达成：
1. 显式状态机：如微软的AutoGen等系统将智能体交互形式化为有限状态机，状态间的转换（例如`分析查询`、`检查知识库`、`调用计算器`）由独立的控制器管理。控制器使用轻量级分类模型或基于规则的系统决定下一状态，而专用LLM则负责各状态内的内容生成。
2. 策略即代码层：如英伟达的NeMo Guardrails和IBM的watsonx.governance等框架将决策核心实现为可编程中间件。这些层拦截LLM调用，使用更小、更快的模型分析意图，根据预定义策略规则（例如“财务建议需附加免责声明”）进行检查，并路由到适当的工具或数据源。策略规则通常用领域特定语言表达，与模型权重分离。
3. 检索增强决策：如LangChain的LangGraph和LlamaIndex的智能体框架等项目，包含了显式决定何时及从外部知识库检索何物的决策节点。检索决策通过比较查询嵌入向量与向量存储索引来做出，相似度阈值可在主LLM外部配置。
一项关键技术创新是在决策层使用更小、更专用的模型。虽然GPT-4或Claude 3可能处理复杂推理，但决策核心可采用如谷歌的Gemma 2B或微软的Phi-3-mini等高效模型进行分类任务，显著降低延迟和成本。GitHub上的`gorilla-llm/gorilla`项目是典型例证，它提供了一个专门为API调用决策微调的70亿参数模型，充当用户请求与数百种工具之间的路由器。
性能基准测试揭示了引人注目的优势。在针对多步骤任务的单体架构与决策核心架构对比控制实验中：
| 架构 | 任务成功率 | 平均延迟 | 单任务成本 | 决策可审计性 |
|--------------|-------------------|--------------|---------------|-----------------------|
| 单体LLM (GPT-4) | 72% | 4.2秒 | 0.12美元 | 低 |
| 决策核心 + 专用模型 | 89% | 2.8秒 | 0.07美元 | 高 |
| 纯基于规则的路由器 | 65% | 0.5秒 | 0.01美元 | 极高 |
数据启示：混合型决策核心方法以更低的成本和延迟提供了更优的成功率，同时满足了企业部署所需的可审计性。纯规则系统虽然最快、最便宜，但难以处理基于LLM的决策层能应对的新颖场景。
关键参与者与案例研究
多家机构正在这一架构转变中确立早期领导地位，各自拥有独特的理念路径。
Anthropic的宪法AI作为决策框架：虽未明确标榜为“决策核心”，但Anthropic的宪法AI在根本层面践行了分离原则。模型的输出需经过一套宪法原则的过滤，该原则充当外部决策层，在交付前根据危害标准评估输出。研究人员指出，这实际上创建了两个阶段：模型生成候选回复的“思考”阶段，以及根据宪法评估这些回复的“审查”阶段。Anthropic近期发布的Claude 3.5 Sonnet通过其“工件”功能展示了这一点，该功能将推理工作区与最终输出分离。
微软的多智能体框架：微软研究院的AutoGen和TaskWeaver框架明确实现了编排工作流的控制器智能体。在AutoGen中，专用的“用户代理智能体”或“助手智能体”负责做出路由决策：何时需要人工输入、何时调用工具、何时自主进行。该决策逻辑可用Python编程，允许企业直接编码业务规则。微软将这些框架与Azure AI Studio集成，将其定位为企业AI智能体的决策核心基础设施。
专用决策模型初创公司：新兴公司正围绕决策层本身构建业务。Cognition.ai专注于企业工作流的AI决策系统，提供他们称之为“决策智能平台”的解决方案，该平台位于业务逻辑与LLM之间。同样，Fixie.ai提供了一个平台，其中关于工具使用、数据检索和响应制定的决策逻辑被显式建模。