技术深度剖析
将Codex整合进ChatGPT并非简单的软件补丁，而是一项复杂的架构决策，对模型路由和用户意图解析有着深远影响。其核心在于，合并后的系统必须为每一次用户输入决定：是调用对话式的GPT-4o引擎，还是代码专精的Codex引擎。这是一个经典的意图路由问题。
OpenAI的做法似乎是一个两阶段流水线。首先，一个轻量级分类器（很可能是GPT-4o-mini的微调版本）试图预测用户的查询是与代码相关还是对话性质。如果被归类为代码，输入则被转发给Codex的专用实例（Codex本身是GPT-4的微调版本）。如果是对话，则进入标准的ChatGPT模型。问题在于，正如用户所发现的，这个分类器非常脆弱。像“写一个排序列表的函数，但也要解释它是如何工作的”这样的查询，可能触发任意一条路径，导致不一致的输出——要么是没有任何解释的代码块，要么是一大段没有代码的文字。
此外，系统在UI中引入了一个手动的“模式切换”开关，允许用户明确选择“代码”或“聊天”模式。这造成了第二层混乱：用户必须决定是信任自动路由还是覆盖它，而且该开关的行为并不总是透明的。例如，切换到“代码”模式可能会禁用模型拒绝有害代码请求的能力，而这一安全功能是对话模型内置的。
从工程角度看，这种双模型架构引入了延迟和成本开销。每次查询在路由前都必须经过分类器，增加了100-200毫秒的延迟。系统还维护着两个独立的上下文窗口，这意味着在代码和聊天之间切换的对话会失去连续性。一个用户先请求一段代码片段，然后追问一个关于该算法的问题，可能会发现模型对之前的代码毫无记忆，因为上下文并未在两个引擎之间共享。
一个试图解决类似问题的相关开源项目是Open Interpreter（GitHub: open-interpreter/open-interpreter，55k+星标）。它使用单一的LLM（如GPT-4），但通过系统提示指令模型以结构化格式输出代码执行命令。这完全避免了路由问题，因为它依赖模型自身判断何时生成代码的能力。另一个项目Continue（GitHub: continuedev/continue，20k+星标）将代码生成集成到IDE中，但保持对话和编码上下文分离，允许用户明确管理它们。
| 架构方面 | ChatGPT（独立版） | Codex（独立版） | 合并后的系统 |
|---|---|---|---|
| 模型 | GPT-4o | Codex（GPT-4微调版） | 带分类器的双模型 |
| 意图检测 | 隐式（对话式） | 显式（仅代码） | 混合（分类器 + 手动开关） |
| 上下文窗口 | 单一、连续 | 单一、聚焦代码 | 双窗口、不共享 |
| 延迟（平均） | ~1.2秒 | ~0.8秒 | ~1.5秒（含路由开销） |
| 失败模式 | 偏离主题的回复 | 拒绝非代码查询 | 路由错误、上下文丢失 |
数据要点： 合并后的系统比独立版ChatGPT延迟增加了25%，比独立版Codex增加了50%，同时未能提供无缝体验。双上下文架构是罪魁祸首，它打破了用户对一个单一助手所期望的对话连续性。
关键玩家与案例研究
整合失败不仅仅是OpenAI的问题，它反映了整个行业在平衡专业化与通用性方面的挣扎。几家关键玩家正采取不同的路径。
Anthropic 与Claude走了截然相反的道路。Claude 3.5 Sonnet没有合并模型，而是使用一个单一、能力极强的模型，该模型经过训练，能在同一上下文中处理代码生成和对话。模型的系统提示包含了关于何时输出代码块、何时提供散文的明确指令。这完全消除了路由问题。早期基准测试显示，Claude 3.5 Sonnet在HumanEval上达到了与Codex相当的代码生成准确率（92.0%对比Codex的92.7%），同时保持了卓越的对话连贯性。
Google DeepMind 的Gemini正在追求类似的统一方法，但有一个转折：Gemini采用多模态架构，可以同时处理文本、图像和代码。该模型经过训练，能够生成交错排列的文本和代码，因此天然适合在编写代码的同时进行解释等任务。然而，Gemini在MBPP基准测试上的代码生成性能（82.3%）仍落后于Codex和Claude。
GitHub Copilot 最初基于Codex构建，则选择了不同的道路。在OpenAI做出改变后，GitHub一直在将Copilot迁移到一个定制模型（GitHub Copilot Model）上，该模型更加紧密地集成到开发环境中，专注于代码补全和生成，而非通用对话。