技术深度解析
亿田智能的55亿元投资并非空泛承诺,而是一次针对硬件的具体押注。公司已明确表示将采购搭载NVIDIA H100或H800 GPU(受出口管制限制)或华为昇腾910B等国产替代方案的服务器。核心技术问题在于:这些服务器将服务于何种工作负载?
从训练到推理的范式转移
第一波AI算力需求由大规模模型训练驱动,需要数千块GPU在紧密耦合的集群中协同工作(如NVIDIA DGX SuperPOD)。这一市场已被云服务商(阿里云、腾讯云、华为云)以及CoreWeave、Lambda Labs等专业GPU即服务公司瓜分殆尽。然而,下一波浪潮是推理——运行已训练好的模型以生成输出。推理工作负载有着本质不同:
- 延迟敏感: 视频生成模型(如Sora类或Runway Gen-3)必须以近乎实时的方式生成帧。这需要低延迟、高带宽的互联,而不仅仅是原始算力(FLOPS)。
- 需求碎片化: 企业希望针对特定任务(如法律文档审阅、医学影像分析、客服聊天机器人)进行私有化、定制化的AI部署。出于数据隐私原因,它们无法使用公有云API。
- 弹性伸缩: 推理需求呈尖峰状。一家公司可能在一小时内需要100块GPU,之后则归零。云服务商对按需实例收取溢价,这为更灵活的预留模式创造了机会。
亿田的技术策略很可能涉及构建一个“中间层”,以抽象化GPU管理的复杂性。这与开源项目vLLM(一个高吞吐量、内存高效的LLM服务引擎)和Ray(一个分布式计算框架)所提供的功能类似。vLLM在GitHub上已获得超过30,000颗星,被广泛用于部署LLaMA和Mistral等模型。亿田可借助此类工具提供托管推理服务。
性能指标:推理的成本
要理解亿田的潜在利润空间,必须审视推理的经济账。下表比较了在不同硬件配置上运行70B参数模型的成本与性能:
| 配置 | GPU数量 | 吞吐量(tokens/秒) | 每百万tokens成本(美元) | 功耗(kW) |
|---|---|---|---|---|
| 单块H100 | 1 | 50 | $0.50 | 0.7 |
| 8×H100(DGX) | 8 | 350 | $0.35 | 5.6 |
| 8×昇腾910B | 8 | 280 | $0.25 | 6.0 |
| 8×A100(上一代) | 8 | 200 | $0.20 | 5.0 |
数据要点: 上表显示,虽然较老的A100 GPU每token成本更低,但功耗更高、吞吐量更低。亿田押注H100级硬件,表明其聚焦于高价值、低延迟的推理工作负载,客户愿意为此支付溢价。然而,成本与收入之间的利润空间十分微薄,尤其是当亿田必须与能将成本分摊到数百万客户的云服务商竞争时。
关键玩家与案例研究
亿田并非首家转型AI基础设施的传统企业。几个案例研究揭示了其中的风险与回报:
案例一:CoreWeave(成功故事)
CoreWeave最初是一家加密货币挖矿公司。它早期便转型GPU云服务,获得了23亿美元债务融资和11亿美元B轮融资。其秘诀在于:激进采购NVIDIA H100 GPU,并专注于服务那些对AWS或Azure而言规模过小的AI初创公司。CoreWeave的收入从2022年的3000万美元增长至2023年的约5亿美元。然而,这需要巨额资本支出,并愿意在初期以接近零利润运营。
案例二:Lambda Labs(利基玩家)
Lambda Labs提供GPU云和工作站硬件。它在开发者社区拥有强大品牌,但与超大规模云厂商相比仍是小角色。其成功依赖于提供卓越的客户支持,以及为PyTorch和TensorFlow等流行框架预配置环境。
案例三:国内玩家(警示故事)
多家中国公司曾试图进入AI计算市场。例如,金山云和UCloud在试图与阿里、腾讯形成差异化时举步维艰。它们的GPU租赁服务常因利用率低(通常低于40%)以及大型竞争对手的激进定价而亏损运营。
对比表:亿田 vs. 竞争对手
| 公司 | 融资额(美元) | GPU数量(估) | 主要聚焦 | 利用率(估) |
|---|---|---|---|---|
| CoreWeave | 34亿 | 50,000+ | 高端推理 | 75% |
| Lambda Labs | 5亿 | 20,000+ | 开发者云 | 60% |
| 亿田智能 | 7.6亿(55亿人民币) | 5,000-10,000 | 碎片化推理 | 未知(目标50%) |
| 阿里云 | 不适用(母公司) | 100,000+ | 全栈 | 80%+ |
数据要点: 亿田的资本规模相对有限