跳到主内容
快讯直播
AI智模界
AI 词典

概率流 ODE:扩散模型里的确定性采样

一句话定义:概率流 ODE(Probability Flow ODE)是扩散模型背后的一条确定性常微分方程——它和常用的反向随机采样(SDE,随机微分方程)在每一时刻生成同样的概率分布,但把随机项去掉了,于是"生成一张图"变成了"解一个方程"。

它是怎么来的

扩散模型的前向过程是不断往数据里加噪,直到变成纯噪声;反向过程则是从噪声一步步"去噪"回到数据。教科书式的写法是反向 SDE:每一步除了沿着"数据密度上升"的方向走(漂移项),还要额外注入一点随机噪声(扩散项)。

概率流 ODE 做的事情是:把注入的随机噪声拿掉,同时在漂移项里补上一个大小恰好一半的确定性修正。结果是——两者在任意时刻的边缘分布完全相同,也就是说人群整体的落脚点分布一致,只是每个人的走法变了。

写成公式大致是:dx/dt = f(x,t) − ½·g(t)²·∇log p_t(x),其中 ∇log p_t(x) 就是所谓的 score,训练好的去噪网络(通常预测噪声 ε 或速度 v)可以估计它。

打个比方:一群人要从山顶(纯噪声)下到山谷里的各个村庄(真实数据)。随机采样像每个人每一步都随机抖一下,路线各不相同,但最终人群疏密符合要求;概率流 ODE 则像根据人流密度事先画好的"水道",每个人顺着流线走,不抖、不绕,密度依然是那个密度。

和相邻概念的区别

反向 SDE概率流 ODE
随机性每步注入噪声无随机项
采样步数通常需要很多步可用高阶求解器大幅减少
可复现性依赖随机种子同一初始点必然同一结果
中间轨迹随机、不可复现确定,可插值、可反演
边缘分布相同相同

最容易被混淆的是 DDIM:DDIM 可以看作概率流 ODE 的一种离散化实现(一个特例),而概率流 ODE 是更一般的连续形式,允许直接套用数值分析里的成熟工具。

对从业者意味着什么

第一是加速。既然是解 ODE,就能用高阶 Runge–Kutta、指数积分器这类求解器,用十几到几十步逼近原本几百上千步的效果;这也是很多少步蒸馏、一致性模型(Consistency Model)方法的出发点——沿着 ODE 轨迹做步数压缩。

第二是可控与可逆。确定性意味着同一张噪声图必然对应同一张输出图,而且可以反过来从图像解出对应的初始噪声,用来做图像编辑、插值、属性调整。

代价也要知道:少了随机项,采样结果的多样性有时会略逊于随机采样;步数压得太狠会有离散化误差;score 估计不准时误差会沿着轨迹累积。具体求解器与步数配置,以各框架和官方文档为准。

一句话记住:概率流 ODE 就是"把扩散模型的随机下山路,换成一张确定的水流图"。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。