一句话定义：当模型说出“这单会违约，概率 87%”时，SHAP（SHapley Additive exPlanations）和 LIME（Local Interpretable Model-agnostic Explanations）负责回答一句人话——“凭什么”。
它们解决的是什么问题
模型越强，越像黑箱。可现实中总有人要追问：贷款被拒了，到底卡在哪一条？医生想知道，影像模型判“高危”是看到了病灶还是看到了片子上那行机器型号的字？这时你要的不是“模型整体准确率 92%”这种全局指标，而是针对某一条样本的局部归因：把这次预测的功劳和锅，分摊到各个特征头上。
两个方法的核心思路
SHAP 借的是博弈论。 假设几个合伙人一起接项目赚了 100 万，每人该分多少才公平？Shapley 值的办法是：把所有可能的加入顺序都试一遍，看每个人“加入的那一刻”带来了多少边际增量，再取平均。把合伙人换成特征、利润换成预测值，就是 SHAP。它的关键卖点是可加性：基线（比如全体样本的平均预测）+ 每个特征的贡献 = 这次的实际预测。这个性质让解释能对上账，而不是一堆凭感觉的分数。
LIME 更像现场做实验。 它不去推公式，而是在你要解释的那条样本附近随机扰动、生成一堆“邻居”，看模型对这些邻居怎么判，然后用一个简单模型（线性回归或小决策树）去拟合这一小片区域，拿简单模型的系数当作解释。它不关心全局长什么样，只管“这一亩三分地”。
两者的区别
| 维度 | SHAP | LIME |
|---|---|---|
| 理论根基 | 合作博弈论的 Shapley 值 | 局部代理模型 |
| 是否可加 | 是，贡献值加总对得上预测 | 无此保证 |
| 稳定性 | 较好 | 随机采样，重跑可能不同 |
| 计算成本 | 偏高，实践中靠近似实现 | 较低 |
| 输出形式 | 每个特征的带正负号贡献值 | 局部系数或规则 |
要注意，SHAP 也不是免费的：精确计算随特征数增长很快，实际多用近似版本；LIME 快且模型无关，但解释会抖，复现时要固定随机种子。另外 SHAP 里有模型专用的高效实现，也有通用的模型无关版本，具体以官方文档为准。
对从业者和普通人的意义
对做模型的人：上线风控、医疗、招聘这类高风险场景时，你多半得备一套归因工具，用于排查“模型是不是在拿性别、地域这类不该用的特征做判断”，也用于向业务方和审核方交代理由。
对普通职场人：你看到的“因以下因素被拒”那段说明，很可能就是这两个方法之一生成的。
但有一条底线要记住：归因不等于因果。“这个特征贡献大”说的是模型怎么想的，不是说现实世界里这就是原因。特征之间高度相关时，功劳还会被拆得七零八落，看着反直觉。解释是审模型的工具，不是拿来当因果结论用的。