技术深度解析
ICML 2026的亮点论文揭示了两个截然不同但又相互关联的技术突破。
VLA模型：终于奏效的架构
VLA模型将视觉感知、语言理解和动作生成统一为单个端到端Transformer。今年论文的关键创新在于引入了时间动作令牌——离散的动作嵌入，在训练期间与视觉和语言令牌交错排列。这使得模型能够直接预测电机命令序列，绕过了传统的感知→规划→控制流水线。
来自UC Berkeley和Toyota Research Institute团队的一篇论文提出了VLA-Stream，该模型使用一个仅含2亿参数的轻量级动作解码器，附加在冻结的视觉-语言骨干网络（CLIP ViT-L）上。通过将动作输出量化为8位令牌，并使用仅关注最后64帧的流式注意力机制，他们在单个NVIDIA Orin上实现了12毫秒推理延迟——相比先前工作提升了4倍。开源实现已在GitHub上以vla-stream提供，自两周前发布以来已获得1200颗星。
另一篇论文解决了具身智能体持续学习中的灾难性遗忘问题。作者提出了弹性动作巩固（EAC），该方法计算动作参数的Fisher信息矩阵，并在新任务微调期间应用弹性权重巩固。在15个操作任务（推、抓取、插销）的实验中，EAC在学习5个新任务后，对先前学习任务的性能保留了94%，而标准微调仅为62%。GitHub上的eac-robot仓库提供了PyTorch实现和预训练检查点。
推理中的L2范数革命
该环节最具争议性的论文是来自DeepMind和ETH Zurich团队的“通过L2范数约束实现内部对齐”。核心思想简单得令人惊讶：在自回归推理过程中，模型隐藏状态的幅度会随着序列长度增加而增长，导致注意力崩溃和推理退化。通过对每层隐藏状态施加软L2范数惩罚——将范数限制在学习的阈值内——模型保持了稳定的动态，并产生更连贯的推理链。
实验表明，使用7B参数模型，这一约束将GSM8K上的性能从82.3%提升至90.1%，MATH上从38.7%提升至46.2%。关键在于，无需额外训练；该约束仅在推理时应用。该技术是模型无关的，适用于任何基于Transformer的LLM。GitHub上的l2-reasoning仓库提供了一个简单实现，只需三行代码即可添加到任何Hugging Face模型中。
| 模型 | 基线GSM8K | L2约束GSM8K | 基线MATH | L2约束MATH | 延迟增加 |
|---|---|---|---|---|---|
| LLaMA-3 7B | 82.3% | 90.1% | 38.7% | 46.2% | +5% |
| Mistral 7B | 79.1% | 87.4% | 35.2% | 42.8% | +4% |
| Gemma 2 9B | 84.0% | 91.5% | 41.3% | 48.9% | +6% |
数据要点： L2范数约束在数学推理上为各模型带来了7-9%的一致提升，且延迟开销极小。这是零成本的性能增益——无需训练、无需数据、无需增加参数。
关键参与者与案例研究
VLA模型生态系统
VLA领域正变得日益拥挤，出现了三种不同的方法：
- Toyota Research Institute (TRI) 正在推动VLA-Stream用于车载机器人，专注于实时驾驶决策的低延迟推理。他们与NVIDIA在Orin平台上的合作带来了软硬件优势。
- Google DeepMind的机器人部门提交了一篇关于VLA-Transfer的论文，该模型使用预训练的PaLM-E骨干网络，仅在5万条机器人轨迹上微调动作头。他们展示了从仿真到真实Franka Emika机械臂的零样本迁移，在拾取和放置任务上成功率达85%。
- UC Berkeley的BAIR实验室继续在开源VLA研究中领先。他们的VLA-Base模型，基于Open X-Embodiment数据集（涵盖20个机器人平台的100万条轨迹）训练，是社区中最广泛使用的基线模型。
| 组织 | 模型 | 参数 | 延迟（毫秒） | 开源 | 关键应用 |
|---|---|---|---|---|---|
| TRI/NVIDIA | VLA-Stream | 2亿（动作解码器） | 12 | 是 | 自动驾驶 |
| Google DeepMind | VLA-Transfer | 5620亿（PaLM-E骨干） | 85 | 否 | 通用机器人 |
| UC Berkeley | VLA-Base | 70亿（完整模型） | 45 | 是 | 研究基准 |
数据要点： 权衡关系清晰：更大的模型提供更好的泛化能力，但以延迟为代价。对于自动驾驶等实时应用，轻量级VLA-Stream方法正在胜出。对于研究和通用机器人领域，