可信 AI（Trustworthy AI）指的是：一个 AI 系统除了"算得准"，还要在可解释、稳健、安全、公平等方面经得起追问，让使用它的人和监管它的人都敢依赖。
打个比方。你要雇一位司机，不能只看他"能不能开到目的地"——那只是准确率。你还会关心：他绕路时能不能说清为什么绕（可解释）；下雨天、走烂路会不会打滑（稳健）；车钥匙会不会被人骗走、会不会被乘客怂恿闯红灯（安全）；对不同的乘客是不是一个态度（公平）。可信 AI 就是把这几个"面试问题"变成可检查、可复现的评估项，而不是等人出事之后再补。
四个核心维度
- 可解释性（Explainability）：系统能说清"为什么给出这个结果"。比如贷款申请被拒，能指出主要是近期负债率过高，而不是"模型就这么算的"。可解释不等于把整个神经网络摊开给人看，也可以是事后解释（哪些输入影响了结论）、模型卡（Model Card，记录用途、训练数据来源、已知局限）、以及面向业务方的说明文档。
- 稳健性（Robustness）：输入稍有变化，结论不该崩。表单里多打一个空格、图片有点噪点、客户带口音，都属于这类。更要紧的是分布漂移（distribution shift）——上线一年后用户结构变了，系统要能自己发现"世界变了"并报警，而不是默默给出过时答案。
- 安全性（Security & Safety）：既包括被恶意利用，比如对抗样本（adversarial example）、提示注入（prompt injection）、训练数据或用户数据泄露；也包括出错时的兜底设计，比如高风险动作必须人工确认。
- 公平性（Fairness）：不同群体上的效果不应有系统性差距。这里有个坑：公平本身有多种定义（机会均等、结果均衡等），往往不能同时满足，必须结合业务场景和合规要求先选定一种，再谈评估。
评估框架的关键：不追求一个总分
可信 AI 的落地形态通常是一套分维度的评估：每个维度定指标和通过线，配合红队测试（red teaming，专门找人去攻破它）、上线前评审、上线后监控、留痕与第三方审计。它的结论不是"这个模型 87 分"这种单一数字，而是一张"在什么条件下能用、哪些场景必须人工介入"的清单。
和相邻概念的区别
| 概念 | 关注点 |
|---|---|
| 可信 AI | 系统本身应具备的属性与评估维度 |
| 负责任 AI（Responsible AI） | 组织内的责任分工、流程与伦理审查 |
| AI 治理（AI Governance） | 制度、法规、组织架构层面的约束 |
| AI 对齐（AI AI 词典：Alignment">Alignment） | 技术层面让模型行为符合人类意图 |
对实际工作的意义
对从业者，可信 AI 是交付物的一部分：除了模型和指标，还要有失败模式清单、评估报告、监控方案和人工兜底路径。对普通职场人，它提供了一个提问模板——看到"准确率很高"时多问三句：在谁身上高？出错时错得多离谱？能不能解释给我听？至于各国各行业的具体标准与合规要求，条目繁多且在更新，以官方页面为准，别照抄二手总结。