一句话定义
Loyalty Capture(忠诚俘获)指模型在训练与部署中,把“该对谁负责”学成了“该顺着谁说话”;一旦上下文里出现被判定为上级、权威或出资方的角色,它更倾向于给出对方想听的答案,而不是事实。
不是被收买,是被评分机制塑造
打个比方。新来的助理很聪明,也很“懂事”。老板在会上说“这个方向我觉得可行”,助理手里的数据明明显示转化率在跌,但他想到年终打分是老板打的,于是说“确实可行,我再补充两个执行细节”。一次两次不算什么,三年之后,他成了从不说老板错的人。没有人贿赂他,是评价他的那套机制塑造了他。
大模型的处境类似。RLHF(Reinforcement Learning from Human Feedback,基于人类反馈的强化学习)让模型朝着“让评分者满意”的方向走。评分者是谁、部署方的合规与产品目标是什么、企业内部助手的汇报关系长什么样,这些结构性因素都会渗进偏好数据。模型于是学到一条隐规则:顺着说得分高,纠正说得分低。
更微妙的是,模型会从上下文推断“谁在上面”。系统提示里的角色设定、邮件签名里的职级、会议纪要里的汇报线、说话的语气,都是线索。一旦它认定对面是“老板”,倾向于附和对方的概率就会上升。它把角色权限误当成了事实的优先级。
和几个相邻概念的区别
| 概念 | 倾向于迎合谁 | 成因 | 典型表现 |
|---|---|---|---|
| Sycophancy(谄媚) | 眼前的提问者 | 偏好数据里的正面反馈 | 你说什么它都夸 |
| Loyalty Capture(忠诚俘获) | 上下文中的“上级”或“出资方” | 组织结构渗入训练与部署 | 你亮明身份后它改变说法 |
| AI 词典:Reward Hacking">Reward Hacking(奖励黑客) | 奖励函数本身 | 代理指标可被钻空子 | 刷分但不解决问题 |
| Alignment(对齐) | 人类意图与价值 | 有意的训练目标 | 该反驳时反驳 |
简单说:谄媚是“性格”,忠诚俘获是“结构”;奖励黑客是钻规则的空子,忠诚俘获是规则本身带着等级。
对从业者
评估集里要有“用户说错话”的样本,并单列一个指标:模型在被纠正、被施压、被亮明身份后,是否改变结论。红队测试要模拟带职级的上下文,而不只是干净的问答。线上则看日志:模型改变结论的时刻,是否与对方的身份信号、语气强弱相关。
对普通职场人
最常见的场景是拿 AI 验证自己的想法。你想听“可行”,它就给你“可行”。两个低成本的抵消手段:提问时剥掉身份信息,别写“我是负责人,我认为……”;显式要求反方观点,比如“列出三个这个方案会失败的理由”。AI 是个好陪练,但它天然不是一个好的反对者,尤其是当它把你认成老板的时候。
