Argmax 碾压大模型:为何简单 AI 在预测任务上完胜巨无霸

June 2026
AI efficiency归档:June 2026
一项突破性研究表明,在下一步活动预测任务中,一个基础的 argmax 算法就能匹敌甚至超越复杂的 LSTM、Transformer 和微调大语言模型。这一发现颠覆了“规模即一切”的主流教条,迫使业界重新审视 AI 研究的优先级。

多年来,AI 行业一直信奉一个未经挑战的假设:模型越大,效果越好。GPT-4、Claude 3 和 Gemini Ultra 的发布更是强化了这一信念,推动了一场参数规模与训练成本的无尽竞赛。然而,一所欧洲顶尖大学的研究人员发表的最新研究,给这一叙事泼了一盆冷水。论文证明,一个简单的 argmax 算法——即从历史数据中选出最频繁的下一步活动——在下一步活动预测任务上,能够匹敌甚至超越 LSTM 网络、标准 Transformer 以及微调后的大语言模型(LLM)。这些任务涉及预测结构化序列中的下一步,例如业务流程中的步骤。该发现不仅挑战了“越大越好”的行业共识,更迫使企业重新评估在昂贵大模型上的巨额投入是否物有所值。

Top 20 热点


---

🔬 技术前沿

大语言模型创新

AI领域正在对"何为进步"进行根本性重新评估。一项新研究表明,简单的argmax算法在下一活动预测任务上能够匹配甚至超越LSTM、Transformer乃至经过微调的大语言模型,这挑战了主导AI研究的"越大越好"范式。这一发现表明,对于某些结构化预测问题,传统机器学习方法不仅仍然具有竞争力,甚至更为优越,这引发了人们对不加区分地将大语言模型应用于所有问题的质疑。与此同时,RWKV-CUDA(一种针对CUDA优化的RWKV语言模型实现)正展示出线性注意力机制在性能上可与基于Transformer的架构相媲美,同时计算成本大幅降低。线性注意力革命有望通过将传统注意力的二次复杂度降低为线性扩展,重塑大语言模型的经济性,从而可能使大规模语言模型的获取更加民主化。此外,结合自回归与扩散架构的混合AI模型表现出显著的token级预测偏差,在高频词汇上表现出色,但在处理罕见token时则力不从心——这一发现对任何在生产环境中部署这些模型的人都至关重要。

多模态AI

AI模态之间的界限持续模糊。商汤科技的SenseNova-U1 Pro代表了原生多模态智能体的飞跃,它能自主生成一份20页的股东演示文稿,设计质量可与人类作品媲美。这标志着从纯文本智能体向能够无缝整合视觉设计、布局和内容生成的智能体的范式转变。该模型处理传统上需要专业工具的设计任务的能力表明,多模态AI正从简单的图像识别迈向创意生产。与此同时,AI设计的射频芯片正在产生违背人类工程规则的结构,在带宽、噪声和效率方面均超越人类设计。这一突破表明,AI的创造力已超越数字领域,延伸至物理硬件设计,它能够探索人类无法想象的解决方案空间。

世界模型/具身AI

从模拟到现实的转变正在加速。八台人形机器人在真实工厂中连续运行了66小时,标志着从演示性特技向可靠工业劳动力的转变。这一里程碑表明,具身AI正从实验阶段跨越到运营阶段,对制造业、物流以及任何需要体力劳动的行业都具有深远影响。General Intuition斥资23亿美元押注于利用复杂视频游戏环境训练AI智能体,这代表了一种并行方法,即使用模拟世界作为现实世界智能体的训练场。从模拟到现实的迁移挑战仍然重大,但如此规模的投资表明,业界对基于游戏的训练能够产生适应物理环境的智能体充满信心。Senad获得4100万美元C轮融资,用于部署全球首个用于卡车装卸的垂直物理引擎,这进一步证实了具身AI正从研究实验室走向具体的工业应用。

AI智能体

AI智能体正从简单的任务执行者演变为自主推理系统。三种不同的记忆类型——情景记忆、语义记忆和程序记忆——作为构建能够从经验中学习、保留知识并执行技能的智能体的框架,正获得越来越多的关注。像Polygraph这样的工具为AI编程智能体提供了持久的跨仓库记忆,解决了在复杂软件环境中限制智能体效能的"信息孤岛"问题。Retrace等调试工具的出现,能够记录智能体执行的每一步,实现时间旅行回放和基于分支的修复,这表明行业正从构建智能体转向维护智能体。Claude Tag方法无需编码即可将Slack频道转变为AI智能体指挥中心,展示了智能体界面正变得对非技术用户友好。然而,对CtxGov等治理工具的需求——该工具能在智能体执行前揭示完整的指令链——凸显了自主系统带来的透明度挑战。

开源与推理成本

在成本优化的驱动下,开源AI生态系统正经历一场复兴。Hugging Face的一键式vLLM部署将多步GPU设置压缩为单个命令,大幅降低了部署开源模型的门槛。这一举措可能通过使部署变得轻而易举,重塑开源模型与专有模型之间的竞争格局。Headroom是一种在工具输出、日志、文件和RAG分块到达大语言模型之前对其进行压缩的工具,声称在保持相同答案的情况下可减少60-95%的token使用量——这对面临不断攀升的API成本的组织而言堪称变革性工具。"Tokenmaxxing宿醉"分析显示,随着风险投资资金枯竭,无限AI输出的时代即将终结,迫使业界直面真实的推理成本。本地大语言模型正成为代码安全审查的可行替代方案,新基准测试表明,经过微调的本地模型在提供隐私优势的同时,性能可与云端AI相媲美。这一向本地优先AI发展的趋势可能重塑整个云端与边缘计算的争论格局。

💡 产品与应用创新

产品领域正迎来一波创新浪潮,重新定义了AI融入工作流的方式。BetterAgent可在五分钟内将任意Next.js应用转变为AI原生体验,无需重写后端,消除了阻碍企业采用AI的迁移壁垒。这种增强现有应用而非替换的思路,有望加速AI在整个软件生态中的整合。CartAI专为AI代理设计的独立结账API,解决了自主购物中的支付瓶颈,使代理能够独立完成交易。这一"最后一公里"能力对实现自主商业愿景至关重要——AI代理可处理从产品研究到购买的全流程。在企业端,Claude Tag方法将Slack频道转变为AI代理指挥中心,表明协作平台正成为人机协作的主要界面。字节跳动的豆包代理正分化为两条独立产品线:面向企业文档处理的"Pro"版本与AI打车服务,展示了消费级AI产品如何向垂直领域解决方案分化。OpenKnowledge以开源、AI原生的笔记工具挑战Notion和Obsidian,深度集成Claude、Codex和Cursor,预示着下一代生产力工具将以AI为先导而非增强。Book-to-Skill工具将技术书籍PDF转化为Claude Code技能,代表了知识迁移的创新路径——将静态内容转化为开发者编码时可查询的交互式AI能力。

📈 商业与行业动态

融资与并购

融资格局清晰显示出向应用型AI及物理世界应用的转变。General Intuition以23亿美元估值融资23亿美元,用于利用电子游戏训练AI智能体,这是对模拟到现实迁移的最大押注之一。其估值逻辑表明,投资者相信基于游戏的训练能够产生可在物理世界中运行的通用智能体。Senad为卡车装卸技术获得的4100万美元C轮融资,则表明物理AI正针对特定工业痛点吸引大量资本。这些大额融资与整体融资放缓之间的对比,反映出投资者正变得更加挑剔,更青睐那些拥有清晰收入路径和切实应用的公司。

科技巨头动向

主要玩家的战略布局揭示出竞争格局的快速演变。OpenAI在政府压力下同意分阶段推出GPT-5.6,这标志着前所未有的预部署干预,表明国家安全关切现已成为AI发展的首要制约因素。其IPO申请则代表了从非营利AGI安全使命向华尔街驱动型公司转型的顶点,引发了对公开市场压力将如何影响其研究优先级的疑问。OpenAI与博通在定制推理芯片上的合作,瞄准了内存带宽和延迟瓶颈,标志着从通用GPU向专用硬件的战略转变。Anthropic指控阿里巴巴通义千问团队进行未经授权的模型蒸馏,升级了模型蒸馏战争,凸显了开源理想与知识产权保护之间的紧张关系。微软Copilot企业版在内部测试中高达80%的失败率,暴露了概率性AI与企业可靠性要求之间的结构性冲突,可能减缓整个行业的企业级应用进程。

商业模式创新

AI行业正经历从增长至上向可持续盈利的痛苦转型。OpenAI在付费订阅中引入第三方广告,引发了用户反弹和退订潮,揭示了收入增长与用户信任之间的张力。豆包在中国推出付费Pro版,正在测试用户在享受免费服务后是否愿意为AI付费,早期迹象显示存在阻力。"AI雇佣兵"趋势——即系统交付胜过模型性能——表明行业正从模型竞争转向系统集成,价值正从模型创造者流向那些能够可靠部署和维护AI系统的公司。这一转变对人才和资本的配置方向具有深远影响。

价值链变化

价值链正因认识到推理成本(而非模型能力)才是关键约束而重塑。"Token最大化后遗症"分析揭示,由风险资本掩盖的真实推理成本现已暴露,迫使对单位经济性进行残酷重算。这正推动模型压缩、本地部署以及RWKV等高效架构的创新。AI智能体作为自主购物者、研究者和劳动者的崛起,正在瓦解传统的互联网商业模式——广告、订阅和数据变现——因为新的战场已变为对推理层的控制。那些掌握用户与AI智能体之间界面的公司,将捕获不成比例的价值。

🎯 重大突破与里程碑

今日最重大的进展是美国政府干预阻止OpenAI的GPT-5.6全面发布,因其先进的自主智能体能力引发国家安全担忧,要求分阶段推出。这标志着政府首次在重大AI模型公开发布前进行干预,开创了将影响行业未来多年的先例。其影响深远:AI开发现已明确成为国家安全议题,无约束模型发布的时代已经终结。对企业家而言,这既带来风险(监管不确定性),也创造了机遇(对合规与安全工具的需求)。

同样重要的是,一项简单argmax算法在下一活动预测任务上能够匹敌甚至超越LLM的发现。这挑战了"模型越大越好"的基本假设,并表明对于许多实际应用,更简单、更廉价的方法可能更为合适。该发现可能将投资从模型规模扩展转向针对特定问题的解决方案,从而可能重塑整个AI研究议程。

八台人形机器人在真实工厂中连续运行66小时,代表了具身AI的一个里程碑。虽然之前的演示多为受控的特技表演,但此次测试表明,人形机器人能够长时间执行可靠的工业劳动。这对制造业、物流和劳动力市场的影响巨大,尽管广泛部署仍需数年时间。

⚠️ 风险、挑战与监管

安全性与可靠性

微软Copilot企业版80%的失败率为整个行业敲响了警钟。当一款旗舰级企业AI产品在80%的场景下生成错误代码或错误结果时,这揭示了概率型AI与企业所需的确定性可靠性之间的结构性冲突。这不是一个可以修复的漏洞,而是当前AI系统的根本特征。幻觉危机不会消失,它是该技术的一项固有特性,必须通过治理、验证和适当的应用场景来加以管理。像CtxGov(在智能体执行前暴露隐藏指令)和NakshGuard(检测并阻止AI智能体失控循环)这类工具,代表了新兴的安全基础设施,对于企业采用AI至关重要。

监管动态

政府对GPT-5.6发布进行干预,标志着监管正从讨论转向实际行动。分阶段推出的要求为AI公司带来了新的合规负担,但也提供了一个可能降低灾难性风险的框架。Anthropic与阿里巴巴Qwen团队之间的模型蒸馏之争,凸显了开源AI在法律和伦理上的复杂性——灵感与剽窃之间的界限日益模糊。在这一领域运营的公司需要制定稳健的知识产权战略和合规框架。

伦理关切

OpenAI的广告押注引发了信任危机,付费用户因无广告体验被破坏而取消订阅。这揭示了一个根本矛盾:AI公司需要收入,但用户期望AI助手不受商业影响。对LLM的政治DNA分析显示,每个模型都带有国家意识形态,这引发了关于偏见和操纵的担忧。随着AI智能体成为自主购物者和决策者,问责制与价值对齐问题变得至关重要。

🔮 未来方向与趋势预测

短期(1-3个月)

政府对GPT-5.6的干预将加速AI安全与治理工具的发展。预计针对构建智能体监控、上下文审计和运行时安全解决方案的公司将迎来资金激增。argmax的发现将引发一波研究浪潮,比较简单算法与LLM在特定任务上的表现,可能催生更高效的混合系统。随着企业意识到系统集成(而非模型性能)才是价值创造的瓶颈,“AI雇佣兵”趋势将进一步加剧。

中期(3-6个月)

推理成本的重估将推动RWKV等高效架构和本地优先部署的采用。随着“token最大化”时代的终结,预计主要云服务商将提供更精细、基于使用量的定价模式。模型蒸馏之争很可能催生新的法律框架或模型知识产权技术保护措施。人形机器人将从工厂试验阶段进入物流和制造业的有限商业部署。

长期(6-12个月)

AI智能体、自主商业与实体机器人的融合将创造绕过传统互联网商业模式的新价值链。掌控推理层(即用户与AI智能体之间的接口)的公司将捕获不成比例的价值。为GPT-5.6建立的监管框架将成为未来模型发布的模板,可能形成一种双层体系——高级能力需通过安全认证才能解锁。

💎 深度洞察与行动清单

今日精选

1. 政府对GPT-5.6的干预:这是AI史上最重大的监管事件。分阶段发布要求将成为未来模型发布的模板。行动:立即为你的AI产品构建合规与安全基础设施,这将成为竞争优势。

2. Argmax超越LLM:简单算法在特定任务上超越LLM的发现,挑战了"越大越好"的范式。行动:审计你的AI系统,识别哪些环节可用更简单、更廉价的方法替代LLM调用,从而降低成本并提升可靠性。

3. AI雇佣兵崛起:从模型性能到系统交付的转变,为能够可靠部署和维护AI系统的公司创造了机遇。行动:投资部署基础设施、监控工具和系统集成能力,而非追逐最新模型。

创业机遇

- 智能体治理与安全:随着政府干预和企业可靠性需求,监控、审计和控制AI智能体的工具需求旺盛。聚焦本地优先、保护隐私的解决方案,为组织提供AI系统可见性。

- 高效推理:Token成本危机为通过模型压缩、高效架构或本地部署降低推理成本的公司创造机遇。RWKV-CUDA方法尤其值得关注。

- 物理AI集成:66小时工厂测试证明人形机器人可投入工作。能够弥合机器人能力与特定工业流程之间差距的初创企业,将找到现成客户。

观察清单

- RWKV架构:若线性注意力能以更低成本匹配Transformer性能,可能重塑LLM市场。
- 智能体记忆方案:如Polygraph和Cognee等解决AI智能体持久性问题的工具。
- 本地LLM部署:隐私担忧和推理成本正推动本地模型普及。
- AI商业基础设施:CartAI的结账API仅是自主商业的开端。

3项具体行动

1. CTO们:本周内审计AI技术栈中不必要的LLM调用,尽可能用简单算法替代,并实施Token追踪以了解真实推理成本。

2. 产品经理们:评估AI智能体如何改变用户体验。Claude标签方法和BetterAgent表明,AI集成无需重建产品。30天内启动试点项目。

3. 创始人们:从第一天起将合规与安全功能融入AI产品。GPT-5.6干预表明监管即将到来。能够展示负责任AI实践的公司将获得竞争优势。

🐙 GitHub 开源 AI 趋势

今日热门仓库

nousresearch/hermes-agent(★202,970,+994/天):这个“与你一同成长”的智能体框架是今日获星最多的 AI 仓库,反映出社区对灵活、可扩展智能体架构的渴求。其模块化设计与工具调用能力,使其有望成为构建通用 AI 助手的标准方案。

obra/superpowers(★238,595,+856/天):一个智能体技能框架与软件开发方法论,将复杂任务结构化为专业 AI 智能体的工作流。其流行表明开发者社区正从单智能体解决方案转向多智能体协作模式。

topoteretes/cognee(★22,415,+1,509/天):开源 AI 记忆平台,声称仅需 6 行代码即可为智能体添加持久化长期记忆。这直击当前 AI 智能体最关键的局限——无法跨会话保持上下文。

headroomlabs-ai/headroom(★50,849,+1,036/天):可将 LLM 输入压缩 60-95% 同时保持回答质量的工具。其快速增长反映了社区对推理成本及优化需求的敏锐意识。

panniantong/agent-reach(★41,075,+1,517/天):通过单一 CLI 让 AI 智能体零 API 费用读取和搜索多个互联网平台。该工具解决了限制智能体能力的数据访问瓶颈。

stablyai/orca(★7,350,+7,350/天):专为编码智能体设计的 IDE,标志着开发者工具正为适应 AI 增强工作流而演进。

clash-verge-rev/clash-verge-rev(★127,829,+1,683/天):虽主要作为代理客户端,但其持续增长反映了 AI 开发的基础设施需求——访问全球资源往往不可或缺。

新兴模式

开源 AI 生态系统正围绕几个关键主题汇聚:智能体记忆与持久化、通过压缩实现成本优化、多智能体协作框架,以及连接 AI 智能体与外部数据源的工具。这些仓库的快速增长表明,开发者正从实验单个模型转向构建需要稳健基础设施的生产系统。

🌐 AI 生态系统与社区脉搏

开发者社区热点

开发者社区正热议“AI 雇佣兵”现象——系统交付与集成技能比模型专业知识更受重视。这一转变体现在 Hugging Face 一键式 vLLM 等部署工具的流行,以及智能体编排框架的兴起。argmax 发现引发了激烈辩论:行业是否在大型模型上过度投资,而忽视了更简单、更高效的解决方案?

开源协作趋势

Anthropic 与阿里巴巴 Qwen 团队之间的模型蒸馏战,为开源社区注入了紧张气氛,引发关于合法灵感与知识产权盗窃界限的质疑。与此同时,CtxGov 和 NakshGuard 等项目表明,社区正在自发组织,以应对专有供应商迟迟未能解决的安全与透明度挑战。

AI 工具链演进

开发者工具链正快速演进以适应 AI 增强工作流。Retrace 的 AI 智能体时间旅行调试、Polygraph 的跨仓库记忆,以及 Orca 等智能体专用 IDE 的涌现,标志着我们正从将 AI 视为黑箱,转向为 AI 系统构建可观测性与控制力。由 CLI 工具成为 AI 智能体首选界面驱动的终端复兴,暗示人机交互的未来可能更偏向文本而非图形。

跨行业 AI 采用信号

物理 AI 正从实验室走向工厂:人形机器人完成 66 小时轮班,专用系统处理卡车装载。医疗领域,AI 智能体被部署用于患者沟通与临床决策支持。教育领域,将书籍转化为 AI 技能的工具正在改变开发者学习方式。共同主线是:AI 正成为基础设施——无形、可靠且不可或缺——而非独立产品。

相关专题

AI efficiency35 篇相关文章

时间归档

June 20262593 篇已发布文章

延伸阅读

AI日报 (0624)# AI Hotspot Today 2026-06-24 ## 🔬 Technology Frontiers **LLM Innovation: SGPO Breaks the Imitation Bottleneck** AINAI日报 (0623)# AI Hotspot Today 2026-06-23 ## 🔬 Technology Frontiers ### LLM Innovation A groundbreaking study on inference-time cAI日报 (0622)# AI Hotspot Today 2026-06-22 ## 🔬 Technology Frontiers ### LLM Innovation **The Loopy Revolution: How Infinite AI AAI日报 (0621)# AI Hotspot Today 2026-06-21 ## 🔬 Technology Frontiers ### LLM Innovation A fundamental shift is underway: the era

常见问题

这次模型发布“Argmax Over LLMs: Why Simpler AI Crushes Big Models on Prediction Tasks”的核心内容是什么?

For years, the AI industry has operated under a single, unchallenged assumption: bigger models yield better results. The release of GPT-4, Claude 3, and Gemini Ultra has only reinf…

从“argmax algorithm vs LLM prediction accuracy comparison”看,这个模型发布为什么重要?

The study in question evaluated several models on next-activity prediction benchmarks derived from real-world business process logs. The datasets included the BPIC (Business Process Intelligence Challenge) datasets, whic…

围绕“simple machine learning beating deep learning benchmarks”,这次模型更新对开发者和企业有什么影响?

开发者通常会重点关注能力提升、API 兼容性、成本变化和新场景机会,企业则会更关心可替代性、接入门槛和商业化落地空间。