机器人向前推一个物体，它的位置和状态会怎样变化？世界模型尝试从观察与动作中学习环境的变化。预测可以是后续画面，也可以是保留任务信息的内部状态，用于模拟交互、学习策略或规划动作。
预测的表示和使用方式彼此有关。生成画面需要处理可见细节，决策还关心行动会带来什么结果；模型保留哪些信息、能够预测多远，以及误差怎样影响后续使用，都是研究中的问题。
研究主题- 环境表示：从观察中保留状态、历史与任务信息。
- 行为学习：利用模型生成的轨迹训练策略。
- 模拟与规划：预测场景变化，比较候选行动的结果。
预测动作之后的环境- 01观察与编码
- 02预测后续状态
- 03比较多种未来
- 04实际执行
- 05反馈与校正
发展路线与代表工作
- 2018
把视觉、记忆与控制拆开
World Models 用压缩表示和变化预测支持小控制器，并展示在模型生成的环境里训练。
- 2020
为规划学习需要的信息
MuZero 学习与奖励、价值和策略有关的内部状态，将学到的模型用于树搜索。
- 2025
在想象轨迹中学习行为
DreamerV3 在世界模型产生的想象轨迹中训练 actor 与 critic，并在不同任务上使用相同的超参数配置。
关键概念
- 潜在状态 · Latent state
- 模型内部保存的压缩表示。它可能包含画面与历史信息，但每个维度未必有可读含义。
- 动力学模型 · Dynamics model
- 预测给定当前状态与行动，下一步状态会怎样变化的模型。
- 想象轨迹 · Imagined rollout
- 从一个内部状态出发，反复预测行动后果得到的一段轨迹；它的反馈来自模型。
- 规划与策略 · Planning / Policy
- 规划在决策时比较候选行动序列；策略直接按观察或内部状态输出动作，二者可以结合。
表示、预测与控制
World Models将视觉压缩、动态预测与控制组合起来：视觉模型把图像转成紧凑表示，动态模型描述表示的变化，控制器据此选择动作。项目中的赛车和游戏演示展示了这些模块怎样共同工作。
世界模型可以预测像素，也可以在潜空间中建模。前者保留可见的场景变化，后者通过训练目标选择对任务有用的信息；表示学习和序列预测因此成为环境建模的一部分。
想象中的学习与规划
DreamerV3在学到的模型中产生想象轨迹，用来训练策略与价值估计。MuZero 则学习与决策有关的潜状态、奖励和价值，并将模型用于搜索。模型参与策略训练，或在选择动作时参与规划，是两种不同的使用方式。
这些方法与强化学习中的策略、回报和价值相连。预测误差会沿着模拟过程积累，它对策略学习或搜索产生的影响，也与模型被怎样使用有关。
视频模拟与交互环境
视频模型描述画面随时间的变化，动作条件模型进一步将变化与行动联系起来。交互式环境需要在连续操作下保持场景与状态的一致性，机器人中的环境模型还涉及物体、接触与动力学。相关内容见生成模型与具身智能。
项目与研究资料
Awesome World Models整理世界模型的论文与项目；World Model 资料目录包含经典工作和综述，模型架构与 World Model 笔记收有 WAM 等专题分析。
代表论文