一句话定义:因果智能是指系统不只判断"什么和什么经常一起出现",而是能回答"如果我这么做,会发生什么",并据此在真实世界里做决定的能力。
相关性预测和因果推理,差在哪
打个比方。便利店发现买啤酒的人常同时买尿布,这是相关性,拿来推荐很管用。但它回答不了"如果我把尿布下架,啤酒销量会掉多少"。后者是干预(intervention)问题,得动手改一改,或者用因果模型把这条路径单独算出来。再进一步是反事实(counterfactual):"刚才如果我早 0.1 秒踩刹车,还会撞上吗?"事情已经发生,只能靠模型推演。
为什么具身智能特别需要它
机器人、自动驾驶这类要在物理世界里行动的系统,时间尺度很硬。有人从路边窜出来,0.2 秒内要给出急停决策:继续走会撞、急刹会不会甩尾、边上车道能不能让。这时候纯相关性模型会翻车——它学的是"过去见过的画面通常接着什么",而"我此刻踩刹车会怎样"这件事,训练集里根本没有,因为那一帧是它自己即将造成的。
所以因果智能塞进控制回路,通常长这样三层:
- 世界模型(world model)带动作接口:输入当前状态加候选动作,输出推演的下一状态,而不只是预测下一帧画面。
- 在候选动作上做反事实展开:并行推演"直行急刹 / 左打轮 / 右打轮"几条轨迹,比较后果再挑一条。
- 秒级重规划:不追求一次算到底,每几百毫秒用新观测把规划重跑一遍,滚着往前走。
| 概念 | 回答的问题 | 典型失效场景 |
|---|---|---|
| 相关性预测 | 看到 X 通常伴随什么? | 环境一变就崩,甚至把"我踩刹车"和"车加速了"学反 |
| 因果智能 | 如果我做 A,会发生什么? | 要模型、算力、在线推演一起配合,代价高 |
| 反事实 | 当时如果做 B,结果会怎样? | 无法验证,只能靠模型自洽性兜底 |
和相邻概念的区别
强化学习也会试错学动作,但很多策略是在仿真里磕出来的,换个环境就未必成立;因果智能更强调"对没见过的干预也能给出答案"。模型预测控制(MPC)本质也在往前推演,但它一般假设模型是固定的;因果智能关心的是模型能不能分辨"是环境变了,还是我自己变了"。
对从业者和普通人的意义
做机器人、工业控制、自动驾驶的,把"动作"显式放进模型输入,往往比再堆一批数据更值钱;安全兜底要能在一两百毫秒内给出一个可解释的否决。做推荐、风控、医疗的,A/B 测试本身就是干预,别把观测数据里的相关直接当因果;上一个新策略前,先想清楚"这个策略自己会改变什么"。普通人则可以多问一句:数据显示 X 和 Y 高度相关,那如果我真去改 X,Y 会动吗?
目前因果智能没有统一实现路径,有走结构因果模型的,有走带动作条件的世界模型加搜索的。具体某个产品怎么做的,以官方页面为准。
