一句话定义：贝叶斯神经网络（Bayesian Neural Network，BNN）是把网络中的权重（weight）从一个固定数值换成概率分布的神经网络；因此，它给出的是一个答案的分布，而不是单个答案。
打个比方：普通神经网络像一个背熟题库的学生，问什么都会立刻给出一个答案，哪怕题目没见过；BNN 像一个会举手说“这题我只有六成把握”的学生。后者的价值在于，你能根据他的语气决定要不要相信。
原理：训练前先给权重一个先验分布（prior），再用数据通过贝叶斯公式更新成后验分布（posterior）。预测时从后验中抽若干组权重，各算一次，再汇总成预测分布。分布越窄表示越有把握，分布越宽表示越没把握。这里区分两种不确定性：偶然不确定性（aleatoric uncertainty）来自数据本身的噪声，比如照片模糊，数据加得再多也消不掉；认知不确定性（epistemic uncertainty）来自“这类样本我没见过”，数据变多后就会下降。前者说明事情本身随机，后者说明该补数据了。
和相邻概念的区别：
| 维度 | 普通神经网络 | 贝叶斯神经网络 |
|---|---|---|
| 权重 | 一个点估计（point estimate） | 一个分布 |
| 输出 | 一个预测，外加 softmax 分数 | 一个预测分布，可算方差 |
| 置信度来源 | softmax 分数常常过度自信 | 由后验采样直接得到 |
| 成本 | 低 | 训练与推理都更贵 |
需要注意的是，softmax 输出 0.99 并不等于模型真有 99% 的把握，深度网络普遍存在过度自信（overconfidence）。MC AI 词典：Dropout">Dropout、深度集成（deep ensemble）是更便宜、效果不错的近似方法；高斯过程（Gaussian Process）是另一类贝叶斯方法，小数据上优雅但扩展性差。
实际意义：对从业者，认知不确定性可以直接驱动主动学习（active learning）：优先标注模型最没把握的样本；也可以用于分布外检测（out-of-distribution）和风控、医疗、自动驾驶这类“宁可说不知道”的场景。代价是要做近似推断（如变分推断 variational inference 或 MCMC 采样），部署时还要考虑采样次数与延迟。另外，不确定性分数必须经过校准（calibration）才可信，具体工具与实现以官方文档为准。
对普通人，这套思路的启发很朴素：判断一个系统是否可信，不只要看它答得有多肯定，还要看它有没有能力表达“我不确定”。