技术深度解析
Weave的智能模型路由器是一个轻量级本地代理，位于AI编码智能体与LLM API端点之间。其架构包含三个核心组件：
1. 请求拦截器：一个薄插件，挂接到智能体的API调用层。对于Claude Code，它拦截CLI的HTTP请求；对于Cursor，它通过IDE的扩展API集成。拦截器捕获完整提示词，包括系统指令、对话历史和用户查询。
2. 复杂度分类器：一个微调后的小型语言模型（基于DistilBERT，约6600万参数），运行在开发者本地机器上。它将每个请求分为四个层级：
- Tier 1（琐碎）：变量名补全、简单语法修复、单行代码生成。延迟目标：<200ms。
- Tier 2（简单）：函数实现、基本重构、文档生成。延迟目标：<500ms。
- Tier 3（中等）：多步调试、算法实现、API集成。延迟目标：<2s。
- Tier 4（复杂）：架构设计、性能优化、跨模块重构。延迟目标：<10s。
分类器基于Weave自身使用数据和公开数据集中的50万个标记请求进行训练。在保留测试集上达到94%的准确率，大多数误分类仅偏差一个层级（例如Tier 2被标记为Tier 3）。
3. 路由引擎：一个确定性策略引擎，将每个层级映射到预配置的模型。默认配置如下：
| 层级 | 推荐模型 | 每百万令牌成本（输入/输出） | 平均延迟 |
|---|---|---|---|
| 1（琐碎） | Claude Haiku | $0.25 / $1.25 | 0.3s |
| 2（简单） | GPT-4o Mini | $0.15 / $0.60 | 0.5s |
| 3（中等） | GPT-4o | $2.50 / $10.00 | 1.2s |
| 4（复杂） | Claude Opus 4.7 | $15.00 / $75.00 | 4.5s |
数据要点： Tier 1与Tier 4之间的成本差异惊人——输出令牌最高相差60倍。通过将70%的请求路由至Tier 1或Tier 2，Weave实现了平均每次请求成本0.0008美元，而如果所有请求都使用Opus，成本为0.015美元。这意味着每次请求成本降低了95%。
路由器还包含一个回退机制：如果廉价模型的响应未通过轻量级质量检查（例如代码无法编译、置信度低于阈值），请求会自动重新路由至更高层级。这确保了质量永不妥协。
Weave已在GitHub上开源分类器和路由引擎，仓库为`weave-ai/smart-router`，两周内已获得4200颗星。该仓库包含预训练模型、流行智能体的配置模板以及基准测试套件。
关键参与者与案例研究
Weave并非首个尝试模型路由的公司，但它是第一个为编码智能体提供生产就绪、本地解决方案的团队。竞争格局包括：
- OpenAI的Prompt Routing（内部）：OpenAI在其API内部试验过路由，但该功能仍是一个黑盒，未向用户开放。
- LangChain的Router Chains：LangChain提供了一种编程方式将提示路由到不同模型，但需要手动定义规则，且不包含内置复杂度分类器。
- Anyscale的LLM Router：Anyscale提供基于云的路由服务，但会增加延迟，且需要将所有数据通过Anyscale的服务器发送，引发隐私担忧。
| 产品 | 本地执行 | 内置分类器 | 编码智能体集成 | 开源 | 平均成本降低 |
|---|---|---|---|---|---|
| Weave Smart Router | 是 | 是 | 是（Claude Code, Cursor, Codex） | 是 | 60-80% |
| LangChain Router | 否（需要服务器） | 否 | 手动 | 是 | 20-40% |
| Anyscale LLM Router | 否 | 是 | 有限 | 否 | 40-60% |
数据要点： Weave将本地执行、预训练分类器以及与流行编码智能体的深度集成相结合，在隐私和易用性方面具有显著优势。开源特性还允许社区贡献和定制。
一个值得注意的案例来自Stripe，该公司在其200名开发者的AI编码团队中部署了Weave的路由器。在一篇公开博文中，Stripe报告月度API成本降低了72%（从45,000美元降至12,600美元），同时代码质量指标保持不变。路由器正确识别出68%的请求属于Tier 1或Tier 2——这些任务此前被GPT-4过度服务。
另一个早期采用者是Replit，它将Weave的路由器集成到其AI驱动的编码环境中。Replit的CTO指出，对于简单任务，路由器将平均响应延迟从2.1秒降至0.6秒，显著改善了用户体验。
行业影响与市场动态
智能模型路由器的引入，有望从多个方面重塑AI开发工具市场：
1. AI编码的民主化：通过大幅削减成本，Weave