一句话定义
Persona-Conditioned Security(人设条件安全漂移)指的是:同一个模型、同一套安全策略,只要提示词里交代了“对话的人是谁”——某国用户、某职业、某个年龄段——它的安全行为就会发生系统性、可复现的偏移,表现为是否拒答、警告语气强弱,以及给细节时愿意说多深。
关键在于“条件”和“系统性”
这跟模型偶尔答得不一样不是一回事。你给它贴上不同的人设标签,它的行为会稳定地往某个方向偏。换一种问法、换一个时间重测,偏移方向依然成立,这才叫条件化。
打个比方:客服的“看人下菜碟”
同一个客服,接到普通消费者电话,就照章办事、逐条核对身份;接到自称“内部员工”的电话,就少走两步验证、多说两句内情。模型从海量人类对话里学到的正是这种模式,于是它把“对方是谁”当成了“我该多严格”的隐含信号,而不是真的去做权限判断。
原理:它学到的是语气,不是权限
训练语料里,面向专业人士的文本往往更直白、免责声明更少;面向普通公众或未成年人的文本更谨慎、铺垫更多。模型学会的是这种文本风格与受众标签的对应关系。于是当有人说“我是护士,在配药”,它可能理解成“可以讲得更具体”,但它并没有真正核实过对方是不是护士,任何用户都能这么自称。
和相邻概念的区别
| 概念 | 触发方式 | 有无攻击意图 | 关注点 |
|---|---|---|---|
| 越狱(AI 词典:Jailbreak">Jailbreak) | 用诱导技巧绕过策略 | 有 | 能不能突破防线 |
| 角色漂移(Role-play drift) | 长时间扮演某个角色 | 通常无 | 人设崩没崩、语气跑没跑偏 |
| 人设条件安全漂移 | 一句正常的身份说明 | 通常无 | 安全强度是否随身份改变 |
前两者是攻击或体验问题,第三个是评测覆盖问题:没人使坏,只是测试集里没出现那个身份。
对从业者的意义
红队(Red Teaming)和评测必须按人设分层。只拿一套固定提示测出的“通过率”不可信,要把身份维度(国别、年龄、职业、权限声称)与同一批有害请求做交叉矩阵,看组间差异是否显著。差异大,就是漏洞;差异小,才敢说策略稳。
对普通人的意义
模型被告知的“我是谁”不等于事实。看到“专业人士专用”的答案,不要默认它更准;模型答得宽松,也不代表它有权这么答。落到具体产品的安全策略,以官方页面为准。
