AI觉醒星球
Awakening is here
Knowledge File / 全球热点解读
2026-05-17 10 浏览 公开

趋势解读:World Action Models give robots the ability to,解读最新研究结论

一篇综述论文提出了'世界行动模型'(WAM)框架,使机器人能通过未标记视频训练,并模拟动作后果。相比传统方法,WAM能更好泛化,并利用日常视频数据。

SOURCE / 全球热点解读 MIN / 9 ACCESS / 公开 POST / 2026-05-17 21:15:25

原贴

查看原文
作者:Jonathan Kemper 来源站点:the-decoder.com 原贴时间:

原文

A recent review paper introduces a systematic framework for "World Action Models" (WAMs), a model class for robotics that enables AI systems to be trained using unlabeled everyday videos. Unlike conventional approaches, WAMs don't just learn which action should follow a given camera image. They also simulate how the environment will change as a result of that action, effectively building an internal model of the physical world. The roughly one hundred papers analyzed in the review fall into two main architectural categories. One line of work first generates a predicted future video and then derives control commands from it, while the other processes visual input and actions simultaneously in parallel. Today's robotics AI has a basic weakness: models learn to map camera images directly to movements. But they don't understand how the world actually changes as a result of their actions. A new survey paper from Fudan University, the Shanghai Innovation Institute, and the National University of Singapore is the first to systematically catalog a class of models designed to close that gap: World Action Models. Existing vision-language-action models mostly learn direct mappings from observations to matching actions. World Action Models go further. They also model how the environment will likely change, then couple that prediction to action generation. Ad The payoff is practical, the authors say. A model that simulates the consequences of a movement before executing it generalizes better to unfamiliar objects and settings. More importantly, it can learn from video footage where no robot actions are labeled at all—everyday first-person videos, for example. That kind of data was nearly useless for traditional robotics AI. Ad DEC_D_Incontent-1 Pure video generators can produce plausible future frames, but they aren't tied to control signals. A research team at Peking University recently drew exactly that distinction in its unified definition of world models . World Action Models meet both conditions at once. The researchers sort about a hundred papers into two architectural lines. The first, Cascaded WAMs, works in two steps. A world model first generates an image or video of what the scene should look like next. Then a second module pulls the right control commands from that output. Early work like UniPi generates complete videos and derives motion through a learned inverse model. Ad Other approaches like AVDC or 3DFlowAction use motion fields from which the robot's trajectory can be computed geometrically. Still others - VPP or LAPA, for instance - skip visible images entirely and predict the future in compressed, abstract representations. That saves the compute otherwise needed to render every single pixel. The second line, Joint WAMs, combines both tasks in a single model. Work like GR-1, GR-2, or WorldVLA treats images and actions as a unified token sequence. Diffusion-based variants such as PAD, UWM, or DreamZero generate the future frame and the movement in parallel. Nvidia's Cosmos Policy can use the same architecture as a controller, a simulator, or an evaluation model. Ad DEC_D_Incontent-2 Nvidia pursues a similar dual role with DreamDojo , a world model that takes control commands and generates a simulated visual future from them. The survey also discusses π0.7 , which uses the world model not as a replacement but as a supplier. It feeds imagined future frames into the context of a pretrained robotics AI, which then generates the movement. Ad

中文翻译

最近的一篇评论论文介绍了“世界行动模型”(WAM)的系统框架,这是一个机器人模型类,可以使用未标记的日常视频来训练人工智能系统。与传统方法不同,WAM 不仅仅了解应该遵循给定摄像机图像执行哪些操作。他们还模拟环境将如何因该行为而发生变化,从而有效地构建物理世界的内部模型。评论中分析的大约一百篇论文分为两个主要的架构类别。其中一项工作首先生成预测的未来视频,然后从中导出控制命令,而另一项工作则同时并行处理视觉输入和动作。当今的机器人人工智能有一个基本弱点:模型学习将相机图像直接映射到运动。但他们不明白世界实际上是如何因他们的行为而改变的。复旦大学、上海创新研究院和新加坡国立大学的一篇新调查论文首次系统地列出了旨在缩小这一差距的一类模型:世界行动模型。现有的视觉-语言-动作模型大多学习从观察到匹配动作的直接映射。世界行动模式走得更远。他们还对环境可能如何变化进行建模,然后将预测与行动生成结合起来。作者说,回报是实际的。在执行运动之前模拟运动后果的模型可以更好地推广到不熟悉的对象和设置。更重要的是,它可以从根本没有标记机器人动作的视频片段中学习,例如日常的第一人称视频。这类数据对于传统的机器人人工智能来说几乎毫无用处。纯视频生成器可以生成合理的未来帧,但它们与控制信号无关。北京大学的一个研究小组最近在其对世界模型的统一定义中准确地指出了这一区别。世界行动模式同时满足这两个条件。研究人员将大约一百篇论文分为两个体系结构。第一个是级联 WAM,分两步工作。世界模型首先生成场景接下来应该是什么样子的图像或视频。然后第二个模块从该输出中提取正确的控制命令。像 UniPi 这样的早期工作可以生成完整的视频,并通过学习的逆模型导出运动。其他方法(如 AVDC 或 3DFlowAction)使用运动场,可以根据运动场以几何方式计算机器人的轨迹。还有一些 - 例如 VPP 或 LAPA - 完全跳过可见图像并以压缩的抽象表示来预测未来。这节省了渲染每个像素所需的计算量。第二条线是联合 WAM,将这两项任务结合在一个模型中。 GR-1、GR-2 或 WorldVLA 等工作将图像和动作视为统一的标记序列。基于扩散的变体(例如 PAD、UWM 或 DreamZero)并行生成未来框架和运动。 Nvidia 的 Cosmos 策略可以使用与控制器、模拟器或评估模型相同的架构。 Nvidia 在 DreamDojo 中追求类似的双重角色,这是一个接受控制命令并从中生成模拟视觉未来的世界模型。该调查还讨论了 π0.7 ,它使用世界模型不是作为替代品,而是作为供应商。它将想象的未来框架输入到预先训练的机器人人工智能的环境中,然后生成运动。

核心信息

一篇综述论文提出了'世界行动模型'(WAM)框架,使机器人能通过未标记视频训练,并模拟动作后果。相比传统方法,WAM能更好泛化,并利用日常视频数据。

  • 世界行动模型(WAM)使机器人能通过日常视频训练,无需动作标签。
  • WAM模拟动作后果,提升对陌生环境的泛化能力。
  • 该综述将WAM分为级联和联合两种架构。
  • 利用未标注视频是降低机器人数据成本的关键突破。

详细解读

这是什么信号

这篇综述论文标志着机器人AI从“感知-映射”向“认知-模拟”的范式转变。传统VLA模型直接将图像映射到动作,而WAM通过模拟环境变化来生成动作,使机器人具备了“思考后果”的能力。它首次系统化地汇总了约100篇相关论文,提出了Cascaded和Joint两种架构,为后续研究提供了清晰的分类框架。

为什么重要

WAM的关键突破在于可以利用未标记的日常视频进行训练,大大降低了数据采集成本。传统机器人AI需要精确的动作标签,而WAM可以从第一人称视频中学习,这意味着互联网上海量的视频数据突然变得有价值。此外,由于模型能模拟后果,在面对陌生物体或场景时泛化能力更强,这是实现通用机器人智能的重要一步。

对谁有价值

对机器人研发团队:WAM提供了新的训练范式,可大幅减少人工标注成本。对AI内容平台:这是一个值得持续跟踪的技术趋势,可形成系列解读。对投资机构:关注相关论文作者、初创公司(如Nvidia的Cosmos)的产业化进展。对机器人应用企业:评估WAM技术能否降低部署门槛,提高适应能力。

可以怎么行动

1. 跟踪复旦大学、新加坡国立大学等团队的最新论文;2. 在内部实验环境中尝试使用未标注视频训练原型模型;3. 关注Cascaded vs Joint架构的实际性能对比;4. 评估WAM在具体场景(如仓储、家庭)中的可行性。

风险或限制

目前WAM大多处于研究阶段,模型计算量大,实时性有待提升。对视频质量的依赖较高,低质量视频可能影响模拟效果。此外,未标注视频可能包含偏差或安全风险,需要谨慎处理。距离商用落地仍有距离,需关注后续工程化进展。

信息差价值

信息差价值:大多数人仍停留在“VLA模型是机器人主流”的认知中,而WAM代表了下一代范式。这篇综述系统梳理了分散的研究,提供了清晰的技术路线图,是快速入门的最佳入口。

业务启发:如果您的业务涉及机器人视觉或自动化,可以考虑将WAM作为提升灵活性的方案。同时,WAM对视频数据的利用启发了内容平台:日常视频可能成为AI训练的新资源,可探索数据授权或标注服务的新模式。

可沉淀动作:建立WAM技术跟踪库,定期更新论文和开源项目;撰写内部白皮书,评估在具体业务中的应用潜力;与学术界保持联系,获取最新代码和模型。

参考来源

上一篇 让 Codex 自己做了一条视频介绍了一下这个视频生成方案 下一篇 【必读】每日AI日报 2026-05-17