一句话定义
基于模型的强化学习(Model-Based Reinforcement Learning,MBRL)是指:智能体先从与真实环境交互的数据里学出一个“环境模型”,再借助这个模型做规划、生成虚拟经验,从而用更少的真实试错学会做事。
打个比方:先在脑子里彩排
新手学倒车入库,有两种练法。第一种直接上车,撞了就重来,练上一百次手感自然长出来——这就是无模型(model-free)强化学习:不关心世界运行的规律,只死记“在这个位置打多少方向盘,接下来会发生什么”。
第二种是先在脑子里建一个粗糙的“车+方向盘+墙”的模型:打半圈车尾往哪摆、离墙还有多远。然后闭着眼在脑子里推演十遍,挑一条最不像要撞的路线,再上车试一次。真车只动了一次,脑子里已经练了十次——这就是 MBRL 样本效率的来源。
典型循环分四步:真实交互收集数据 → 学动态模型(预测“执行这个动作后下一个状态是什么、拿到多少奖励”)→ 用模型做规划(planning,比如滚动优化、树搜索;或者像 Dyna 那样把模型生成的虚拟经验混进训练集)→ 执行、拿新数据、修模型。
真正的难点:模型会骗人
MBRL 的软肋在于“模型学错了还挺自信”。推演一步的误差很小,推演二十步可能就荒谬了;更麻烦的是,智能体会精准地找到模型出错的地方并加以利用,而规划器的最优解往往正好落在模型最不准的区域。这就是模型偏差(model bias)和误差累积(compounding error)。通用对策也不神秘:用多个模型投票、只做短程推演、对高不确定区域打折、永远留一条真实数据的“生命线”。
和几个相近概念的区别
| 概念 | 有没有模型 | 模型拿来干嘛 |
|---|---|---|
| 无模型 RL(Model-Free RL) | 没有 | —— |
| 基于模型的 RL(MBRL) | 有,学出来的 | 做规划、生成虚拟经验,省真实样本 |
| 世界模型(AI 词典:World Model">World Model) | 有,常是潜空间的压缩表示 | 预测未来表征、在“想象”中训练,也用于生成 |
| MuZero 这类算法 | 有,但不还原观测 | 只在潜空间里支撑树搜索做决策 |
世界模型是范围更大的概念:它更强调“对世界的高层压缩理解”,落地用途也更广,未必只服务于决策。MuZero 则是混合体——它确实学了动态模型,但那个模型不为重建画面服务,只为规划服务;也正因如此,它不需要知道游戏规则。
对从业者的实际意义
判断要不要上 MBRL,看一条:真实试错有多贵。机器人、自动驾驶、工业控制、医疗这类场景,一次失败代价高昂,样本效率就是命门;而有廉价高保真模拟器的地方(游戏、推荐系统),无模型方法大规模并行反而更省心。所谓 sim-to-real gap(仿真到现实的落差),本质就是模型偏差的另一个名字。
一句话收尾:MBRL 是拿“算计”换“试错”,模型准就赚,模型飘就亏,所以工程上的大部分功夫,花在让它知道自己什么时候不知道。具体算法与超参选择,以各框架官方页面为准。
