技术深度解析
General Intuition的核心洞察在于:当前AI范式——在互联网文本上扩展基于Transformer的语言模型——产出的系统,用其CEO的话说,只是“聪明的鹦鹉”。它们能写出莎士比亚风格的十四行诗,却无法预测一个简单物理实验的结果。这是因为文本数据是对现实的有损压缩。语言描述物理,但并未编码底层的微分方程。
LLM中的物理鸿沟
像GPT-4o、Claude 3.5和Gemini 1.5这样的LLM,操作的是分词后的文本。它们学习的是词语之间的统计相关性,而非支配这些词语所指代物体的物理定律。一个模型可能知道“从高处掉落的球会下落”,但它无法精确模拟其轨迹。这是一个根本性局限:没有世界模型,AI无法在物理领域进行可靠的因果推理。
为何视频游戏是完美的训练场
视频游戏的核心是物理引擎。像《半条命2》或《王国之泪》这样的游戏,实时模拟重力、碰撞检测、动量、摩擦和流体动力学。每一帧游戏画面都是一个标注数据点:每个物体的位置、速度和加速度都是已知的。这是结构化、确定性的数据——与互联网上混乱、模糊的文本截然相反。
据报道,General Intuition正在使用一个定制管道从游戏引擎中提取这些物理数据。他们不仅使用渲染后的像素,还访问底层的模拟状态。这包括:
- 所有物体的空间坐标(x, y, z)。
- 速度和加速度向量。
- 碰撞事件(物体A在时间T撞到物体B)。
- 因果链(拉动杠杆导致桥梁下降)。
这些数据随后被用于训练一个神经网络架构,该架构结合了世界模型(物理的预测模型)和策略网络(在该世界中行动的智能体)。训练方法是监督学习(根据当前状态和动作预测下一状态)与强化学习(奖励模型做出准确预测或成功完成任务)的混合体。
相关开源工作
社区已经在探索这一领域。Genesis仓库(github.com/Genesis-Embodied-AI/Genesis)是一个专为机器人和具身AI设计的通用物理引擎。它提供可微分的物理模拟,可用于训练神经网络。Genesis已获得超过20,000颗星,表明对基于模拟的训练有浓厚兴趣。另一个关键项目是MuJoCo(github.com/google-deepmind/mujoco),一个广泛用于强化学习研究的物理引擎,尤其适用于机器人控制任务。这些工具为General Intuition这样的初创公司提供了可构建的基础设施。
数据要点: 从文本到物理模拟数据的转变,代表了AI训练从“相关性”到“因果性”的迁移。文本数据廉价且丰富,而模拟数据生成成本高,但信号丰富度远超前者。关键的工程挑战是构建高效的管道,以规模化地提取和结构化这些数据。
关键玩家与案例研究
General Intuition 是这一叙事中的主要角色。这家初创公司处于隐身模式,但其CEO一直直言不讳地批评LLM的局限性。据报道,该公司正在从自研游戏引擎构建专有数据集,并设计一种旨在从第一性原理学习物理的神经架构。其策略直接挑战了“规模即一切”的正统观念。
训练数据范式对比
| 范式 | 数据来源 | 结构化程度 | 因果信号 | 成本 | 最佳适用场景 |
|---|---|---|---|---|---|
| 纯文本 | 互联网爬取 | 低 | 极低 | 低 | 语言任务、代码生成 |
| 多模态(文本+图像) | 互联网+字幕 | 中 | 低 | 中 | 视觉问答、图像描述 |
| 视频(真实世界) | YouTube、行车记录仪 | 低 | 中 | 极高 | 动作识别、模仿学习 |
| 物理模拟(游戏) | 游戏引擎 | 极高 | 极高 | 中 | 世界模型、机器人技术、因果推理 |
数据要点: 表格展示了清晰的权衡。文本数据廉价但信息贫乏。真实世界视频信息丰富但嘈杂且标注成本高。游戏模拟数据提供了两全其美的方案:高结构化、高因果信号,且成本可控,因为物理引擎提供了自动标注。
该领域的其他玩家:
- DeepMind:长期倡导基于游戏的AI(AlphaGo、AlphaStar、MuZero)。其在DreamerV3(一种基于世界模型的强化学习智能体)上的工作直接相关。Dreamer从像素中学习世界模型,然后在该模型内规划行动,在Atari 100k基准测试上取得了最先进的结果。
-