技术深度解析
GPT-5.6 三部曲构建于模块化架构之上,将推理、行动和记忆解耦为独立、专门的模型。这与 GPT-4 和 GPT-5 的单体方法形成根本性区别——后者试图用一个模型处理所有任务。该架构利用共享潜在空间进行跨模型通信,实现无缝上下文传输,无需冗余计算。
Sol 是推理核心,很可能基于稀疏混合专家(MoE)架构,估计拥有 1.2 万亿参数,但每次前向传播仅激活约 2000 亿参数。它采用一种新颖的思维链蒸馏技术,相比 GPT-5 将推理延迟降低了 40%。Sol 的关键创新在于“递归验证循环”——在输出最终答案前自我复核推理步骤,在 MMLU-Pro 基准测试中达到 94.2%(GPT-5 为 89.1%)。
Terra 是一个面向任务的智能体,基于更小、更高效的 Transformer(估计 700 亿参数),针对低延迟 API 调用和环境交互进行了优化。它使用一种基于人类反馈的强化学习(RLHF)变体,专门在来自 Zapier、GitHub Actions 和机器人模拟环境等平台的工具使用轨迹上进行训练。Terra 可自主串联多达 50 个连续动作,在现实任务完成的 GAIA 基准测试中成功率达 87%。
Luna 专注于记忆与创造力。它采用混合检索增强生成(RAG)系统,配备持久化、加密的向量存储,可跨会话维护用户特定上下文。Luna 的架构包含一个“情绪调节”层,可根据对话历史调整回复语气;以及一个“创意发散”模块,通过引入受控随机性来激发创意生成。其长期记忆容量估计为每位用户 1 亿个 token,检索延迟低于 50 毫秒。
编排层——内部称为“Helios”——负责管理三个模型之间的路由与同步。Helios 使用轻量级门控网络,决定哪个模型应处理给定请求,并可动态启动 Terra 的并行实例以执行多任务。
| 模型 | 参数(估计) | 主要功能 | 基准测试得分 | 推理成本(每百万 token) |
|---|---|---|---|---|
| GPT-5.6 Sol | ~1.2T(200B 激活) | 推理、分析 | MMLU-Pro: 94.2% | $12.00 |
| GPT-5.6 Terra | ~70B | 任务执行 | GAIA: 87% 成功率 | $2.50 |
| GPT-5.6 Luna | ~150B | 记忆、创造力 | HumanEval(创意): 91% | $4.00 |
| GPT-5(单体) | ~1.8T(400B 激活) | 通用 | MMLU-Pro: 89.1% | $15.00 |
数据要点: 模块化方法相比单体 GPT-5,将组合推理成本降低了 23%,同时将专项基准测试得分提升了 5-10 个百分点。这验证了任务专用模型的效率优势。
对于有兴趣探索类似架构的开发者,开源社区提供了相关资源。'Mixtral 8x22B' 仓库(目前 45k 星)展示了 Sol 可能借鉴的稀疏 MoE 原理。'LangChain' 框架(95k 星)提供了构建类似 Terra 编排的智能体工作流的工具。'MemGPT' 项目(22k 星)探索了 LLM 中的持久化记忆,与 Luna 的设计异曲同工。
关键玩家与案例研究
OpenAI 此举直接挑战了多个同样在探索模块化策略的竞争对手。Anthropic 的 Claude 3.5 Opus 虽然强大,但仍是单体模型。不过,Anthropic 最近发布了“Claude Tools”——一个用于函数调用的独立 API——这暗示了未来模块化的方向。Google DeepMind 的 Gemini Ultra 2.0 包含一个用于外部行动的“Toolformer”模块,但缺乏专门的记忆组件。
最直接的竞争对手是 Adept AI,该公司在 2024 年为其 ACT-2 模型融资 3.5 亿美元,该模型将推理和行动整合在单个智能体中。Adept 的方法集成度更高,但不如 OpenAI 的三模型生态灵活。另一个对手是 Cognition Labs,即 Devin AI 的创造者,它使用多智能体架构进行软件开发,但尚未将记忆与推理分离。
| 公司 | 产品 | 架构类型 | 关键优势 | 弱点 |
|---|---|---|---|---|
| OpenAI | GPT-5.6 Sol/Terra/Luna | 模块化(3 模型) | 专业化、灵活性 | 编排复杂性 |
| Anthropic | Claude 3.5 Opus + Tools | 单体 + API | 安全性、可靠性 | 无专用记忆 |
| Google DeepMind | Gemini Ultra 2.0 | 单体 + Toolformer | 多模态、规模 | 高成本、高延迟 |
| Adept AI | ACT-2 | 统一智能体 | 无缝行动 | 记忆有限 |
| Cognition Labs | Devin AI | 多智能体 | 代码生成 | 领域狭窄 |
数据要点: OpenAI 的模块化方法在推理、行动和记忆方面提供了最全面的覆盖,