Runway 想把 AI 视频生成变成可实时控制的直播流
Runway 展示了实时视频生成研究:用户不再输入提示词后等待整段视频,而是边说边流式生成、即时调整。其底座是 2025 年 12 月推出的通用世界模型 GWM-1,逐帧生成,并接受镜头运动、机器人指令或音频作为控制输入。Runway 认为实时生成会缩短想法到执行的距离,把算力从训练推向使用,并降低单位输出成本。
原贴
查看原文原文
中文翻译
Runway 分享了其对实时视频生成的研究。用户无需输入提示词后等待,而是可以一边描述一边流式生成视频。
如今的视频模型分步骤工作。你输入提示词,等待几秒或几分钟,得到一段完成的视频。如果结果不对,就得重新开始。
Runway 表示,用户反复反馈说,生成和修改视频最耗时。它希望尽量缩短生成第一帧的时间,然后随着用户提示流式生成视频。
Runway 最早在 3 月通过 Runway Characters 讨论过这一思路。它使用 GWM-1,这是该公司首个“通用世界模型”,Runway 于 2025 年 12 月推出。
GWM-1 基于 Gen-4.5,逐帧生成视频,并可接受镜头运动、机器人指令或音频作为控制输入。
就在几周前,Runway 展示了 Solaris,这是一个使用 Gen-4.5 逐帧生成用户界面的系统。它能响应点击或语音输入。
Runway 认为,实时生成缩短了想法与执行之间的差距。有了即时反馈,用户大部分时间将用于主动操控视频,而不是等待。
Runway 还指出成本会更低。更快的模型占用更少 GPU 时间,因此更具成本效率。据 Runway 称,在给定质量水平下,每个输出的成本决定了哪些应用具有经济意义。即时生成会降低这一门槛,让此前不盈利的应用变得可行。
文本模型可以在句子中途自我纠正,但视频模型每一帧都建立在前一帧之上,小错误会随时间累积成严重失真。Runway 称这是基于 LLM 方法的核心问题,并通过用模型自身输出而非只有无错误输入来训练它,教它纠正自身偏差而不是放大偏差。
初创公司 Decart 在其实时模型 MirageLSD 上采用了类似方法,在训练中故意让它接触有缺陷或失真的图像。Google DeepMind 表示,其世界模型 Genie 3 能在 720p、每秒 24 帧下让交互世界保持数分钟的一致性。
据 Runway 称,实时生成把计算负载从训练转向使用。模型必须足够快地生成每一帧以跟上播放,同时运行在多个会话共享的硬件上。
Runway 认为交互式应用是 AI 生成媒体最大的长期用例。该公司表示,教育、游戏和机器人需要能像观看者一样快速响应的视频。评估机器人或自动驾驶汽车在现实世界中的行为,也需要能实时生成并即时响应边缘情况的环境。
Runway 此前推出了 GWM Robotics,这是 GWM-1 的一个变体,为机器人生成合成训练数据。Waymo 也在用类似方法,其 Waymo World Model 基于 Genie 3 并针对道路交通做了适配。它让 Waymo 能模拟其车队从未遇到过的场景,例如遇到大象、龙卷风或被洪水淹没的居民区。据 Waymo 称,Waymo Driver 在公共道路上遇到这些场景之前,已在虚拟世界中行驶了数十亿英里。
3 月,Runway 还在英伟达 GTC 大会上展示了与英伟达共同开发的实时模型的研究预览。它运行在 Vera Rubin 平台上,设计目标是在 100 毫秒内生成第一帧。Runway 尚未公布可用时间表。
核心信息
Runway 展示了实时视频生成研究:用户不再输入提示词后等待整段视频,而是边说边流式生成、即时调整。其底座是 2025 年 12 月推出的通用世界模型 GWM-1,逐帧生成,并接受镜头运动、机器人指令或音频作为控制输入。Runway 认为实时生成会缩短想法到执行的距离,把算力从训练推向使用,并降低单位输出成本。
- Runway 展示了实时视频生成研究:用户不再输入提示词后等待整段视频,而是边说边流式生成、即时调整。其底座是 2025 年 12 月推出的通用世界模型 GWM-1,逐帧生成,并接受镜头运动、机器人指令或音频作为控制输入。Runway 认为实时生成会缩短想法到执行的距离,把算力从训练推向使用,并降低单位输出成本。
- 原贴提到:Runway has shared a look at its research into real-time video generation
- 来源:the-decoder.com
详细解读
这是什么信号。Runway 展示的不是又一个画质更强的视频模型,而是把“输入提示词—等待—重做”的工作流,改成“边描述边看、边看边改”的实时流。底座是 GWM-1——Runway 的首个通用世界模型,逐帧生成,并能接收镜头运动、机器人指令或音频控制;3 月的 Runway Characters 和几周前的 Solaris 已经验证了这条路线。信号很明确:AI 视频的竞争重点,正在从单次生成的画质,转向交互的延迟。
为什么重要。今天的视频模型分步作业:输入提示词,等几秒到几分钟,拿到成品,不对就重来。实时生成把计算负载从训练移到使用,推理侧的延迟和单位成本因此成为产品能否成立的分水岭。Runway 直接点明:给定质量下的每输出成本,决定了哪些应用在经济上说得通;即时生成会把这根门槛拉低。技术上真正的难点是误差累积——文本模型能在句子中途自纠,视频模型每一帧都长在前一帧上,小偏差会被不断放大。Runway 的解法是用模型自己的输出训练它,让它学会纠正偏差而非放大偏差,这也是 Decart 在 MirageLSD 上用过的思路。
对谁有价值。第一层是内容与创意团队,尤其是需要反复试错、迭代镜头的人,等待从分钟级压到近实时,会直接改变创作节奏。第二层是做交互式产品的团队:教育、游戏、机器人——Runway 明确把交互应用视为 AI 生成媒体最大的长期用例。第三层是机器人和自动驾驶的仿真训练需求:Runway 的 GWM Robotics 用 GWM-1 生成机器人合成训练数据,Waymo 的 World Model 基于 Genie 3 模拟车队从未见过的场景。这些场景买的不只是漂亮视频,而是能即时响应边缘情况的合成环境。
可以怎么行动。一是把团队现有的“提示词—等待—重做”流程按延迟分层,先找出真正被等待卡住的环节,等实时能力可用后优先迁移。二是做仿真、机器人或交互产品的团队,现在就该梳理哪些边缘场景缺数据,并设计合成环境的生成管线。三是关注成本模型的变化:实时生成把 GPU 时间花在推理上,评估应用时要按“每次输出成本 × 交互轮次”重新算账,而不是只看单次生成价格。四是把误差累积当作评估指标:测试时故意给出会持续偏差的输入,看模型能否自我纠偏。
风险与限制。Runway 没有公布可用时间表,研究预览和产品化之间还有距离。实时逐帧生成要求硬件同时服务多个会话并跟上播放节奏,稳定性和并发成本都未经验证。用模型自身输出训练虽有纠偏效果,但也存在把训练分布固化的风险,长时段一致性仍要看实际表现。此外,仿真环境越好,越要警惕把虚拟世界里的成功当成现实世界的证据——Waymo 的数十亿英里虚拟里程终究发生在虚拟世界。
信息差价值
这条内容的真正价值,不只是“有人发布了一个新功能”,而是它揭示了 the-decoder.com 背后的产品方向、工作流变化或竞争信号。对 OPC 来说,这种信息可以转化成持续追踪的栏目选题。
如果把《Runway 想把 AI 视频生成变成可实时控制的直播流》放到你的内容系统里,它最大的价值在于帮助读者更快看懂“为什么值得关注”,而不是只看到一条碎片化动态。
参考来源
TOPIC HUBS
延伸专题
AI SUMMARY
这篇文章回答了什么
Runway 想把 AI 视频生成变成可实时控制的直播流主要讲什么?
Runway 展示了实时视频生成研究:用户不再输入提示词后等待整段视频,而是边说边流式生成、即时调整。其底座是 2025 年 12 月推出的通用世界模型 GWM-1,逐帧生成,并接受镜头运动、机器人指令或音频作为控制输入。Runway 认为实时生成会缩短想法到执行的距离,把算力从训练推向使用,并降低单位输出成本。
这篇文章最值得关注的要点是什么?
Runway 展示了实时视频生成研究:用户不再输入提示词后等待整段视频,而是边说边流式生成、即时调整。其底座是 2025 年 12 月推出的通用世界模型 GWM-1,逐帧生成,并接受镜头运动、机器人指令或音频作为控制输入。Runway 认…;原贴提到:Runway has shared a look at its research into real-time video generation;来源:the-decoder.com
这篇文章和哪些AI专题相关?
它适合放在AI副业、AI工具、AI超级个体专题里阅读。 关联原因:这篇内容命中「项目、小生意、变现」等主题信号。;这篇内容命中「模型」等主题信号。;这篇内容命中「效率」等主题信号。
阅读这篇文章建议先理解哪些关键词?
建议先理解AI工具、工具、自动化、模型、Cursor这些关键词,再结合正文判断工具、机会或风险是否值得进入自己的工作流。