一句话定义:证据权重(Weight of Evidence,WOE)是一种把类别特征(如“职业”“城市”“获客渠道”)映射成单个数值的编码方法,这个数值回答的是“当某条样本属于这个类别时,它属于正例的倾向比平均水平强多少”。
WOE 通常分两步算。第一步是分箱(binning):把类别归并成若干组,比如把几十个职业并成“体制内、企业职员、自由职业、个体、其他”。第二步是对每个箱统计两个比例:该箱样本占全部正例的比例 p1,及占全部负例的比例 p0,然后 WOE = ln(p1 / p0)。
打个比方:老刑警翻一摞案子,人分“出事”和“没出事”两类。他看线索“职业=自由职业”:所有出事的人里 10% 是自由职业,所有没出事的人里只有 2% 是自由职业,于是 WOE = ln(0.10/0.02) = ln5 ≈ 1.6。这条线索指向“出事”,证据分是正的。反过来若 2% 对 10%,WOE ≈ −1.6,说明它更像“清白证据”。所以 WOE 本质是“某个类别的正负样本占比之比取对数”,是个带方向的证据分。
一个必须说清的点:不同实现里分子分母的写法并不统一,有的写成 ln(p0/p1),符号正好相反。只要整张表用的是同一套约定,对模型没有影响,只影响你读正负号时的直觉。
用 WOE 编码的实惠:
- 代替 one-hot 的几十上百列,对高基数类别友好;
- 每个箱与对数几率(log-odds)近似线性,天然适合逻辑回归评分卡;
- 缺失值可以单独成一箱,不必强行填补;
- 结果能直接做成一张“证据表”给人看——这是它最被低估的价值。
坑也很明确:
1. 它用到了标签,属于有监督编码。如果在全量数据上算好 WOE 再切分训练,等于把答案漏进特征(数据泄漏,leakage),必须折内计算。
2. 样本量小的箱,比例极不稳定,需要合并箱或做平滑。
3. 上线后遇到训练时没见过的类别,没有对应 WOE 可查。
4. 常与 IV(Information Value,信息值)配套使用,IV = Σ(p1 − p0) × WOE,用来做特征筛选。
和邻居们的区别:
| 方法 | 用标签吗 | 输出 | 典型场景 |
|---|---|---|---|
| One-Hot | 否 | 高维稀疏 | 通用,树模型友好 |
| 目标编码 | 是 | 1 维 | 任意模型,需强正则 |
| WOE | 是(先分箱) | 1 维,单调于 log-odds | 评分卡、可解释线性模型 |
| 嵌入 | 间接 | 低维稠密 | 神经网络 |
对从业者的意义:WOE 是“用标签换可解释性”的编码,适合需要向业务、风控或监管解释的场景;如果不需要解释,梯度提升树配合类别原生处理往往更省事。对普通人:贷款被拒时看到的那句“综合评分不足”,背后常常就是一张 WOE 表在说话。
