觉
AI觉醒星球
Awakening is here
Knowledge File / AI小生意项目库
2026-09-20 2 浏览 免费阅读

Runway 想把 AI 视频生成变成可实时控制的直播流

Runway 展示了实时视频生成研究:用户不再输入提示词后等待整段视频,而是边说边流式生成、即时调整。其底座是 2025 年 12 月推出的通用世界模型 GWM-1,逐帧生成,并接受镜头运动、机器人指令或音频作为控制输入。Runway 认为实时生成会缩短想法到执行的距离,把算力从训练推向使用,并降低单位输出成本。

SOURCE / AI小生意项目库 MIN / 9 ACCESS / 免费阅读 POST / 2026-09-20 19:56:59

原贴

查看原文
作者:Jonathan Kemper 来源站点:the-decoder.com 原贴时间:

原文

Runway has shared a look at its research into real-time video generation. Instead of entering a prompt and waiting, users would stream videos as they describe them. Today's video models work in separate steps. You enter a prompt, wait a few seconds or minutes, and get a finished video. If the result isn't right, you start over. Runway says users repeatedly report losing the most time generating and revising videos and wants to minimize the time to the first frame, then stream video as users prompt it. Runway first discussed this approach in March with Runway Characters. It uses GWM-1 , the company's first "General World Model," which Runway introduced in December 2025. GWM-1 builds on Gen-4.5 , generates video frame by frame, and accepts camera movements, robot commands, or audio as controls. Just a few weeks ago, Runway showed Solaris , a system that uses Gen-4.5 to generate user interfaces frame by frame. It responds to clicks or voice input. Runway argues that real-time generation closes the gap between an idea and its execution. With instant feedback, users would spend most of their time actively steering the video rather than waiting. Runway also points to lower costs. Faster models use less GPU time, making them more cost-efficient. According to Runway, the cost per output at a given quality level determines which applications make economic sense. Instant generation would lower that threshold, making previously unprofitable applications viable. A text model can correct itself mid-sentence, but a video model builds each frame on the previous one, allowing small errors to compound into major distortions over time. Runway describes this as the central problem with LLM-based approaches and addresses it by training the model on its own outputs rather than only error-free inputs, teaching it to correct its own deviations instead of amplifying them. Startup Decart used a similar approach for its real-time model MirageLSD , deliberately exposing it to flawed or distorted images during training. Google Deepmind says its world model Genie 3 keeps interactive worlds consistent for several minutes at 24 frames per second in 720p. According to Runway, real-time generation shifts the compute load from training to use. The model must produce each frame fast enough to keep up with playback while running on hardware shared by several sessions at once. Runway sees interactive applications as the biggest long-term use case for AI-generated media. Education, gaming, and robotics need video that responds as quickly as the person watching it, the company says. Evaluating how robots or autonomous vehicles act in the world also calls for environments that generate in real time and respond instantly to edge cases. Runway previously introduced GWM Robotics, a variant of GWM-1 that generates synthetic training data for robots. Waymo is taking a similar approach with the Waymo World Model , which is based on Genie 3 and adapted for road traffic. It lets Waymo simulate situations its fleet has never observed, such as an encounter with an elephant, a tornado, or a flooded residential neighborhood. According to Waymo, the Waymo Driver travels billions of miles in virtual worlds before encountering scenarios on public roads. In March, Runway also showed a research preview of a real-time model developed with Nvidia at the chipmaker's GTC conference. It runs on the Vera Rubin platform and is designed to deliver the first frame in under 100 milliseconds. Runway hasn't announced a timeline for availability. Subscribe to THE DECODER for ad-free reading, a weekly AI newsletter, our exclusive "AI Radar" frontier report six times a year, full archive access, and access to our comment section.

中文翻译

Runway 分享了其对实时视频生成的研究。用户无需输入提示词后等待,而是可以一边描述一边流式生成视频。

如今的视频模型分步骤工作。你输入提示词,等待几秒或几分钟,得到一段完成的视频。如果结果不对,就得重新开始。

Runway 表示,用户反复反馈说,生成和修改视频最耗时。它希望尽量缩短生成第一帧的时间,然后随着用户提示流式生成视频。

Runway 最早在 3 月通过 Runway Characters 讨论过这一思路。它使用 GWM-1,这是该公司首个“通用世界模型”,Runway 于 2025 年 12 月推出。

GWM-1 基于 Gen-4.5,逐帧生成视频,并可接受镜头运动、机器人指令或音频作为控制输入。

就在几周前,Runway 展示了 Solaris,这是一个使用 Gen-4.5 逐帧生成用户界面的系统。它能响应点击或语音输入。

Runway 认为,实时生成缩短了想法与执行之间的差距。有了即时反馈,用户大部分时间将用于主动操控视频,而不是等待。

Runway 还指出成本会更低。更快的模型占用更少 GPU 时间,因此更具成本效率。据 Runway 称,在给定质量水平下,每个输出的成本决定了哪些应用具有经济意义。即时生成会降低这一门槛,让此前不盈利的应用变得可行。

文本模型可以在句子中途自我纠正,但视频模型每一帧都建立在前一帧之上,小错误会随时间累积成严重失真。Runway 称这是基于 LLM 方法的核心问题,并通过用模型自身输出而非只有无错误输入来训练它,教它纠正自身偏差而不是放大偏差。

初创公司 Decart 在其实时模型 MirageLSD 上采用了类似方法,在训练中故意让它接触有缺陷或失真的图像。Google DeepMind 表示,其世界模型 Genie 3 能在 720p、每秒 24 帧下让交互世界保持数分钟的一致性。

据 Runway 称,实时生成把计算负载从训练转向使用。模型必须足够快地生成每一帧以跟上播放,同时运行在多个会话共享的硬件上。

Runway 认为交互式应用是 AI 生成媒体最大的长期用例。该公司表示,教育、游戏和机器人需要能像观看者一样快速响应的视频。评估机器人或自动驾驶汽车在现实世界中的行为,也需要能实时生成并即时响应边缘情况的环境。

Runway 此前推出了 GWM Robotics,这是 GWM-1 的一个变体,为机器人生成合成训练数据。Waymo 也在用类似方法,其 Waymo World Model 基于 Genie 3 并针对道路交通做了适配。它让 Waymo 能模拟其车队从未遇到过的场景,例如遇到大象、龙卷风或被洪水淹没的居民区。据 Waymo 称,Waymo Driver 在公共道路上遇到这些场景之前,已在虚拟世界中行驶了数十亿英里。

3 月,Runway 还在英伟达 GTC 大会上展示了与英伟达共同开发的实时模型的研究预览。它运行在 Vera Rubin 平台上,设计目标是在 100 毫秒内生成第一帧。Runway 尚未公布可用时间表。

核心信息

Runway 展示了实时视频生成研究:用户不再输入提示词后等待整段视频,而是边说边流式生成、即时调整。其底座是 2025 年 12 月推出的通用世界模型 GWM-1,逐帧生成,并接受镜头运动、机器人指令或音频作为控制输入。Runway 认为实时生成会缩短想法到执行的距离,把算力从训练推向使用,并降低单位输出成本。

  • Runway 展示了实时视频生成研究:用户不再输入提示词后等待整段视频,而是边说边流式生成、即时调整。其底座是 2025 年 12 月推出的通用世界模型 GWM-1,逐帧生成,并接受镜头运动、机器人指令或音频作为控制输入。Runway 认为实时生成会缩短想法到执行的距离,把算力从训练推向使用,并降低单位输出成本。
  • 原贴提到:Runway has shared a look at its research into real-time video generation
  • 来源:the-decoder.com

详细解读

这是什么信号。Runway 展示的不是又一个画质更强的视频模型,而是把“输入提示词—等待—重做”的工作流,改成“边描述边看、边看边改”的实时流。底座是 GWM-1——Runway 的首个通用世界模型,逐帧生成,并能接收镜头运动、机器人指令或音频控制;3 月的 Runway Characters 和几周前的 Solaris 已经验证了这条路线。信号很明确:AI 视频的竞争重点,正在从单次生成的画质,转向交互的延迟。

为什么重要。今天的视频模型分步作业:输入提示词,等几秒到几分钟,拿到成品,不对就重来。实时生成把计算负载从训练移到使用,推理侧的延迟和单位成本因此成为产品能否成立的分水岭。Runway 直接点明:给定质量下的每输出成本,决定了哪些应用在经济上说得通;即时生成会把这根门槛拉低。技术上真正的难点是误差累积——文本模型能在句子中途自纠,视频模型每一帧都长在前一帧上,小偏差会被不断放大。Runway 的解法是用模型自己的输出训练它,让它学会纠正偏差而非放大偏差,这也是 Decart 在 MirageLSD 上用过的思路。

对谁有价值。第一层是内容与创意团队,尤其是需要反复试错、迭代镜头的人,等待从分钟级压到近实时,会直接改变创作节奏。第二层是做交互式产品的团队:教育、游戏、机器人——Runway 明确把交互应用视为 AI 生成媒体最大的长期用例。第三层是机器人和自动驾驶的仿真训练需求:Runway 的 GWM Robotics 用 GWM-1 生成机器人合成训练数据,Waymo 的 World Model 基于 Genie 3 模拟车队从未见过的场景。这些场景买的不只是漂亮视频,而是能即时响应边缘情况的合成环境。

可以怎么行动。一是把团队现有的“提示词—等待—重做”流程按延迟分层,先找出真正被等待卡住的环节,等实时能力可用后优先迁移。二是做仿真、机器人或交互产品的团队,现在就该梳理哪些边缘场景缺数据,并设计合成环境的生成管线。三是关注成本模型的变化:实时生成把 GPU 时间花在推理上,评估应用时要按“每次输出成本 × 交互轮次”重新算账,而不是只看单次生成价格。四是把误差累积当作评估指标:测试时故意给出会持续偏差的输入,看模型能否自我纠偏。

风险与限制。Runway 没有公布可用时间表,研究预览和产品化之间还有距离。实时逐帧生成要求硬件同时服务多个会话并跟上播放节奏,稳定性和并发成本都未经验证。用模型自身输出训练虽有纠偏效果,但也存在把训练分布固化的风险,长时段一致性仍要看实际表现。此外,仿真环境越好,越要警惕把虚拟世界里的成功当成现实世界的证据——Waymo 的数十亿英里虚拟里程终究发生在虚拟世界。

信息差价值

这条内容的真正价值,不只是“有人发布了一个新功能”,而是它揭示了 the-decoder.com 背后的产品方向、工作流变化或竞争信号。对 OPC 来说,这种信息可以转化成持续追踪的栏目选题。

如果把《Runway 想把 AI 视频生成变成可实时控制的直播流》放到你的内容系统里,它最大的价值在于帮助读者更快看懂“为什么值得关注”,而不是只看到一条碎片化动态。

参考来源

AI SUMMARY

这篇文章回答了什么

Runway 想把 AI 视频生成变成可实时控制的直播流主要讲什么?

Runway 展示了实时视频生成研究:用户不再输入提示词后等待整段视频,而是边说边流式生成、即时调整。其底座是 2025 年 12 月推出的通用世界模型 GWM-1,逐帧生成,并接受镜头运动、机器人指令或音频作为控制输入。Runway 认为实时生成会缩短想法到执行的距离,把算力从训练推向使用,并降低单位输出成本。

这篇文章最值得关注的要点是什么?

Runway 展示了实时视频生成研究:用户不再输入提示词后等待整段视频,而是边说边流式生成、即时调整。其底座是 2025 年 12 月推出的通用世界模型 GWM-1,逐帧生成,并接受镜头运动、机器人指令或音频作为控制输入。Runway 认…;原贴提到:Runway has shared a look at its research into real-time video generation;来源:the-decoder.com

这篇文章和哪些AI专题相关?

它适合放在AI副业、AI工具、AI超级个体专题里阅读。 关联原因:这篇内容命中「项目、小生意、变现」等主题信号。;这篇内容命中「模型」等主题信号。;这篇内容命中「效率」等主题信号。

阅读这篇文章建议先理解哪些关键词?

建议先理解AI工具、工具、自动化、模型、Cursor这些关键词,再结合正文判断工具、机会或风险是否值得进入自己的工作流。

上一篇 腾讯 Gander:边工作边持续对话 下一篇 阿里云 AI Agent 技术论坛报名