RTX 5090 上一张显卡跑出 24 帧 VAST 把实时世界模型开源了
乌鸦小编 发表于:2026-10-21 23:14 复制链接 发表新帖
阅读数:53
游戏里让角色走两步、镜头转个身,本来不算什么复杂指令,难的是画面得实时跟上这些临时起意,每一帧都不能掉。这中间隔着的不是画质差距,是能不能跟得上操作这件事本身,玩家不会因为画面好看就容忍半秒的延迟。按离线视频模型的做派,先拿完整输入再整段生成,接不进实时交互,这是实时场景绕不过去的一道坎,玩法一旦需要玩家临时决策,生成速度就跟不上的话,画面再准也没意义。

VAST 开源的实时世界模型换了个分工方式,参考画面负责结构、运动和镜头走向,生成模型负责把这些内容重新渲染成看起来是什么样。白模、二维或三维场景、真实录像都能当参考,游戏、动画预览这些可交互内容的规则和状态仍由上游交互系统维护。三类输入各管一段,参考视频决定场景布局、镜头运动、物体轨迹和事件发生的时间,目标首帧确定主体、材质、配色和画风,文本提示词补充风格和细节。

按这个结构,玩家的操作先由交互系统更新状态,再转成灰盒画面和场景描述喂给渲染器,模型实时出画面。走开再绕回来,参考里的结构还在原处,模型按同一结构继续渲染,不用从过去的画面里重新推测。这一步在预览场景里尤其省事,镜头离开一处再转回来不用重新推断结构,做长镜头的人对这份稳定感很敏感,一个镜头里结构漂移一次,后面所有基于它的设计都得重来,省下来的返工时间往往比渲染速度更值钱。

性能上,五 B 参数版本在单张消费级显卡上能超过每秒二十四帧生成 720P 画面,支持分钟级连续生成。这个数字愿意写进开源说明里,说明团队把口径交出来了让人自己验,能跑是一回事,能在单张消费级显卡上稳定跑是另一回事。它的价值在于把预览推到了可玩,这一步跨过去,项目才谈得上往下走,而不是只能停在效果图阶段,以前做一次交互演示要排队等渲染,现在可以边改边看,方案能不能走通当场就有答案。

用途不止游戏。场景和动画预览里,参考可以是白模、粗动画,或者精细模型渲染出的法线图视频,参考不变只换首帧和提示词,就能在同一个场景同一段动画上比较不同材质、光照和配色。这对做动画和做场景预览的人是同一种便利,素材不变,改的只是首帧和提示词,比较成本一下压到很低,以前为了看不同配色要重跑一遍的场景,现在几分钟就能出结果,评审会上当场换三套方案给客户挑也不再是奢侈的事。

真人素材也能改写,第一人称的手部操作视频可以改成机械臂视角。人戴头戴相机擦桌子开抽屉倒水,一天能拍很多段,但真人录像里是人的手臂和五指,机器人部署时看到的是机械臂和夹爪,外形、运动范围、遮挡方式都不同。模型如果主要拿真人视频训练,换到机器人摄像头上会出明显的分布偏差,把执行者换成机械手,保留动作、物品与桌面的相对位置、镜头移动,输出的数据画面就更接近机器人实际会看到的。

配套还开源了一个给编程智能体用的技能,输入一段玩法描述,智能体分四个阶段完成玩法设计、场景搭建、交互逻辑实现和界面完善,生成能独立运行的灰盒游戏,目前支持解谜、射击、驾驶、冒险、竞技场、格斗等类型,对独立游戏团队来说,原型验证的门槛一下子降到了写一段文字描述就能玩起来的程度。这次开源包含五 B 和十四 B 两档模型权重,各含双向生成与少步流式生成两个版本,还有实时流式推理代码和前端工作台。

这套架构的底子是五月发布的 Project Eden,把世界模型分成三层,持续演化的世界状态、状态到画面的接口、生成式渲染器。视频模型擅长生成看起来合理的画面,却独自维持不了血量、碰撞、物体身份和胜负条件这些规则,所以确定性的状态留给上游交互系统,视觉呈现交给生成模型。这套分工解决了视频模型不擅长长期保存规则的问题,不过还在等更长时间的检验,世界模型不缺演示,缺的是用法。

创业找资源,上乌鸦部落。
本页内容由网友自行在乌鸦部落发布,本站仅提供帖文、图片存储空间服务,帖文(图片)发布者应自行负责所上传帖文(图片)涉及的法律责任,本站对帖文真实性、版权等概不负责,亦不承担任何法律责任。
0 条评论
您需要登录后才可以回帖 登录 | 立即注册
高级
相关推荐

关闭

乌鸦部落