一句话定义:自动化决策的告知义务,指机构用算法而不是人工对你做出有实质影响的决定时,法律要求它主动告诉你——这是机器做的、它大致依据什么、你有哪些救济途径。
为什么需要这条:人工审批时代,拒贷的信贷员至少坐在你对面,能说一句"你负债率太高"。换成模型之后,流程变成一台投币机:塞进申请表,吐出一个"否"。你不知道该改什么,申诉也无从下手。告知义务就是给这台机器强制贴一张说明书。
它通常分三层落地:
| 时机 | 义务 | 典型内容 |
|---|---|---|
| 收集信息时 | 事前告知 | 存在自动化决策、决策逻辑的"有意义说明"、可能后果 |
| 做出不利决定时 | 结果告知 | 决定由自动化作出、主要考量因素、异议渠道 |
| 你提出异议时 | 事后救济 | 人工复核、表达自己观点、挑战该决定的机会 |
最常被引用的条款:欧盟《通用数据保护条例》(GDPR) 第 22 条赋予个人"不受完全自动化决定支配"的权利——决定对你有法律或类似重大影响时,原则上不能只由机器拍板(合同必需、法律授权、明确同意等例外除外);即使在例外情形下,也要提供人工干预、表达意见和质疑决定的保障,并告知决策逻辑的"有意义信息"。欧盟《人工智能法案》(AI Act) 把招聘筛选、信用评分等列为高风险场景,进一步强化了告知与解释要求。中国《个人信息保护法》第 24 条要求自动化决策保证透明度和结果公平公正,对个人权益有重大影响的决定,个人有权要求说明,也有权拒绝"仅通过自动化决策"作出。美国没有一条同等通用的条款,但信贷领域有《公平信用报告法》(FCRA) 的"不利行动通知",纽约市还要求招聘用自动化工具事先告知候选人。
别和这几件事搞混:
- 与"可解释性"(explainability) 不同:可解释性是技术目标,告知义务是法律义务。技术上解释不清,不等于可以不说。
- 与"算法透明度"不同:透明度多是面向公众的披露(模型说明、审计报告),告知义务是面向你个人、针对这一次决定的。
- 与"反歧视"不同:反歧视问结果公不公,告知义务问过程可不可见——但可见是发现不公的前提。
对从业者的意义:做信贷、招聘、保险这类场景,产品设计阶段就要预留"解释素材"——本次决策的关键输入、模型与阈值版本、评分依据。事后再想翻出这些日志,往往已经来不及。解释能力不是法务的收尾工作,是工程需求。
对普通人的意义:收到"很遗憾"时,别只接受一个结论。可以书面追问三件事:这个决定是否由自动化系统作出?主要依据哪些信息?能否安排人工复核?光回一句"综合评分不足",在不少监管口径下并不构成"有意义的信息"。把申请材料和时间点留好。
各国适用范围、豁免情形和申诉流程差别不小,具体以官方页面为准。
