跳到主内容
快讯直播
AI智模界
AI 词典

自动化决策的告知义务:AI 拒了你,它得说清什么

一句话定义:自动化决策的告知义务,指机构用算法而不是人工对你做出有实质影响的决定时,法律要求它主动告诉你——这是机器做的、它大致依据什么、你有哪些救济途径。

为什么需要这条:人工审批时代,拒贷的信贷员至少坐在你对面,能说一句"你负债率太高"。换成模型之后,流程变成一台投币机:塞进申请表,吐出一个"否"。你不知道该改什么,申诉也无从下手。告知义务就是给这台机器强制贴一张说明书。

它通常分三层落地:

时机义务典型内容
收集信息时事前告知存在自动化决策、决策逻辑的"有意义说明"、可能后果
做出不利决定时结果告知决定由自动化作出、主要考量因素、异议渠道
你提出异议时事后救济人工复核、表达自己观点、挑战该决定的机会

最常被引用的条款:欧盟《通用数据保护条例》(GDPR) 第 22 条赋予个人"不受完全自动化决定支配"的权利——决定对你有法律或类似重大影响时,原则上不能只由机器拍板(合同必需、法律授权、明确同意等例外除外);即使在例外情形下,也要提供人工干预、表达意见和质疑决定的保障,并告知决策逻辑的"有意义信息"。欧盟《人工智能法案》(AI Act) 把招聘筛选、信用评分等列为高风险场景,进一步强化了告知与解释要求。中国《个人信息保护法》第 24 条要求自动化决策保证透明度和结果公平公正,对个人权益有重大影响的决定,个人有权要求说明,也有权拒绝"仅通过自动化决策"作出。美国没有一条同等通用的条款,但信贷领域有《公平信用报告法》(FCRA) 的"不利行动通知",纽约市还要求招聘用自动化工具事先告知候选人。

别和这几件事搞混:

  • 与"可解释性"(explainability) 不同:可解释性是技术目标,告知义务是法律义务。技术上解释不清,不等于可以不说。
  • 与"算法透明度"不同:透明度多是面向公众的披露(模型说明、审计报告),告知义务是面向你个人、针对这一次决定的。
  • 与"反歧视"不同:反歧视问结果公不公,告知义务问过程可不可见——但可见是发现不公的前提。

对从业者的意义:做信贷、招聘、保险这类场景,产品设计阶段就要预留"解释素材"——本次决策的关键输入、模型与阈值版本、评分依据。事后再想翻出这些日志,往往已经来不及。解释能力不是法务的收尾工作,是工程需求。

对普通人的意义:收到"很遗憾"时,别只接受一个结论。可以书面追问三件事:这个决定是否由自动化系统作出?主要依据哪些信息?能否安排人工复核?光回一句"综合评分不足",在不少监管口径下并不构成"有意义的信息"。把申请材料和时间点留好。

各国适用范围、豁免情形和申诉流程差别不小,具体以官方页面为准。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。