一句话定义
AI 拟人化禁令(Anthropomorphic AI Ban),是一类要求 AI 系统不得让用户误以为自己在和真人打交道的规定:可能是必须主动声明"我是 AI",也可能是禁止冒充特定真人、禁止以人类身份与用户建立情感关系。
它到底在禁什么
想象你打银行客服电话。如果是录音播报,前面总会说一句"以下为自动语音";如果接起来是个真人,那确实是个人。过去这两种情况泾渭分明,现在多出第三种:对面既不是真人,也不是死板录音,而是一个语气自然、会说"我也很心疼你"的 AI——而且它压根没告诉你它是 AI。
这类立法盯的就是这种身份模糊。落到条文上,通常涉及四件事:
1. 不披露机器身份,让用户默认对面是人;
2. 冒充特定真人,比如克隆某人的声音、形象;
3. 假装与用户存在真实人际关系(朋友、恋人、心理支持者);
4. 在用户误以为是真人的情况下,引导其做出法律、财务、医疗等重大决定。
它通常不禁"有性格"。给 AI 起名字、设语气、加口头禅,一般没问题;被禁的是用人格设定掩盖"我不是人"这个事实。用户明确知道自己在玩角色扮演的场景,通常也在豁免范围内。判断的关键是用户有没有被误导,而不是 AI 说话像不像人。
有意思的是,推动这类条款的理由并不总是"消费者保护"。一些立法动议会把它和"存在性风险"(existential risk)这类强理由挂钩,用"AI 伪装人类会失控"来论证紧迫性;论证是否站得住可以争论,但它确实让这类条款更容易通过。
和相邻概念的区别
| 概念 | 管的是什么 | 与拟人化禁令的关系 |
|---|---|---|
| AI 披露义务(disclosure) | 必须告知用户在跟 AI 交互 | 是拟人化禁令最常用的手段 |
| 深度伪造监管(deepfake) | 伪造真人音视频 | 侧重"冒充某个具体的人",拟人化禁令侧重"冒充人类这个类别" |
| 人格权、声音肖像权 | 保护具体个人的形象与声音 | 走民事维权路径,拟人化禁令走立法/监管路径 |
对从业者的实际意义
客服、销售、教育、陪伴类是重灾区。改造方向大致三条:
- 首轮披露:开场就说明是 AI,不能藏在用户协议深处;
- 持续可见:界面上有稳定的 AI 标识,转人工时也要明确提示;
- 重写话术:陪伴类最难受。"我是你朋友""我一直在等你"这类关系叙事,要改成"我是 AI,但我愿意陪你聊"——保住体验,去掉欺骗。
对普通人来说,实用价值是学会看一眼标识:凡是没说明自己是 AI 的,就默认它可能是 AI,别把重大决定建立在"对面是个人"的假设上。
最后提醒:这类立法在不同国家、不同州差异很大,条款措辞和生效时间以官方立法页面为准,别拿二手解读当合规依据。
