技术深度解析
General Intuition 的方法基于一个看似简单的洞察:电子游戏是与物理世界最接近的数字模拟体,并且能以极低的成本生成数据。根据专利和公开声明拼凑出的信息,该公司的架构包含三个核心组件:
1. 游戏数据管道:一个自定义抓取器,能从《半条命 2》、《盖瑞模组》、《我的世界》和《侠盗猎车手 V》等游戏中提取超过 50,000 小时的画面、动作序列和物理元数据。该管道利用光流和深度估计技术,从 2D 画面中重建 3D 场景几何结构,为物体位置、速度和交互创建伪真值。
2. 基础模型架构:一个基于 Transformer 的模型,配备视觉编码器(ViT-H/14,6.3 亿参数)和因果动作解码器。该模型以“下一动作预测”为目标进行训练:给定一系列画面和先前动作,预测下一个最优动作。这类似于语言模型中的“下一词元预测”。其关键创新在于一个“域不变层”,该层使用对抗训练来对齐游戏数据与真实世界数据的特征表示,从而缩小仿真到现实的差距。
3. 微调协议:在游戏数据上完成预训练后,模型会在一个精心策划的、包含 10,000 条真实机器人轨迹(抓取、推动、堆叠)的数据集上进行微调。微调采用 LoRA(低秩适应)技术,在适应真实世界动态的同时保留预训练知识。该公司声称,这仅需传统方法所需真实世界数据的 1%。
基准测试表现:General Intuition 在机器人操作标准基准 RLBench 上发布了初步结果。下表将其模型(称为“GameBot”)与现有方法进行了比较:
| 模型 | RLBench 成功率(100 项任务平均) | 真实世界迁移成功率(拾取与放置) | 训练数据(小时) | 仿真到现实差距(错误率) |
|---|---|---|---|---|
| GameBot (General Intuition) | 78.3% | 62.1% | 50,000(游戏)+ 100(真实) | 16.2% |
| RT-2 (Google DeepMind) | 72.1% | 58.4% | 130,000(真实) | 不适用 |
| Octo (UC Berkeley) | 65.4% | 51.2% | 80,000(真实) | 不适用 |
| BC-Z (Google) | 60.8% | 45.9% | 100,000(真实) | 不适用 |
数据要点:GameBot 以极少的真实世界数据实现了具有竞争力的性能,但 16.2% 的仿真到现实差距仍然显著。这一差距是关键瓶颈——若能将其降至 5% 以下,将是一项突破。
该公司还在 GitHub 上以“Game2Real”为名开源了其游戏数据管道的轻量版,已获得 4,200 颗星和 800 次分叉。该仓库包含从 Unity 和 Unreal Engine 游戏中提取交互数据的工具,以及域随机化脚本。
关键玩家与案例研究
General Intuition 并非唯一探索利用仿真进行机器人学习的公司,但他们对*商业电子游戏*作为数据源的关注是独一无二的。以下是该领域的关键玩家:
- General Intuition:由 Dr. Elena Vasquez(前 DeepMind 机器人负责人)和 CTO Mark Chen(前 NVIDIA 仿真工程师)创立。35 人团队包括来自 OpenAI、Tesla 和 Epic Games 的资深人士。其 4500 万美元的种子轮融资由 Sequoia Capital 领投,Andreessen Horowitz 和 Y Combinator 参投。其策略是向游戏发行商授权数据,以避免版权问题。
- Google DeepMind:其 RT-2 和 RT-X 模型使用来自多个实验室的真实机器人数据。他们也在“Socratic Models”中尝试了仿真,但主要依赖真实数据。其优势在于规模和 Google 基础设施的访问权限。
- NVIDIA:通过 Isaac Sim 和 Omniverse,NVIDIA 提供用于机器人训练的仿真工具。他们与多家初创公司合作,但尚未发布基于游戏数据训练的基础模型。其重点在于照片级真实感的仿真,而非商业游戏。
- UC Berkeley 的 RAIL Lab:开发了 Octo 模型,这是一个基于 Open X-Embodiment 数据集(真实世界数据)训练的开源机器人基础模型。他们正在探索仿真,但未使用商业游戏。
方法比较:
| 公司 | 数据来源 | 仿真到现实方法 | 所需真实数据 | 开源? |
|---|---|---|---|---|
| General Intuition | 商业电子游戏 | 域不变层 + 对抗训练 | 100 小时 | 部分(Game2Real 管道) |
| Google DeepMind | 真实机器人遥操作 | 无(纯真实) | 130,000 小时 | 否 |
| NVIDIA | 自定义仿真 (Omniverse) | 域随机化 + 系统辨识 | 1,000 小时 | 否 |
| UC Berkeley | 真实机器人数据 | 无 | 80,000 小时 | 是(Octo) |
数据要点:General Intuition 的方法所需的真实世界数据最少,但其仿真到现实差距高于 NVIDIA 的自定义仿真方法,后者在使用了 10 倍以上的仿真数据后,差距约为 8%。