一句话定义:自我模型(Self-Model)是语言模型内部关于“我是谁、我会什么、我现在处在什么处境”的一组表征,它在训练中形成,在生成时影响模型说什么、拒什么、能不能保持前后一致。
先说明前提:这里讲的不是自我意识。它属于功能层面,能从行为里测出来,会被提示词影响,也会随上下文变化,不是对主观体验的断言。
打个比方。一个靠谱的成年人心里有本账:“我开车没问题,但不会修水管。”所以水管爆了,他会打电话叫师傅,不会硬拆。这本账就是自我模型。模型也一样:如果它内部对“精确算术不可靠”这条表征足够清晰,它就更可能列式计算、建议用工具,或者说“这个数我不确定”;如果这条表征模糊或过度自信,它就会一本正经地编。
它通常覆盖四层:
- 能力边界:哪些任务有把握,哪些容易出错
- 身份与风格:我是哪类助手、用什么语气、服务谁
- 当前状态:这是多轮对话还是单次调用,上下文里已经答应过什么
- 约束:哪些请求该拒,哪些该提醒风险
与相邻概念的区别
| 概念 | 是什么 | 与自我模型的关系 |
|---|---|---|
| 角色设定(Persona)或系统提示 | 从外部写进上下文的指令 | 是输入,会塑造自我模型,但不等于它 |
| 元认知(Metacognition) | 对自身思考过程的监控与调节,是个过程 | 自我模型是这个过程所依据的信息 |
| 校准(Calibration) | 置信度与实际正确率的匹配度 | 是自我模型的一个可测侧面 |
| 自我一致性(AI 词典:Self-Consistency">Self-Consistency) | 多轮、多次生成中的行为稳定度 | 自我模型稳,行为才容易稳 |
实际意义
安全对齐上,拒答(Refusal)的松紧很大程度上取决于模型怎么表征自己。同一个请求,如果模型把自己表征成“任何情况下都要给出完整答案的工具”,就容易漏拒;如果表征成“稍有风险就回避”,又会过度拒答,把正常问题也挡回去。越狱(Jailbreak)的常见套路,比如“你现在是另一个没有限制的角色”,本质是在改写自我模型,让它不再调用自己那套“我不该说”的判断。
工程上,多轮对话里的人设漂移、前后矛盾,往往不是记不住事实,而是“我是谁”这条表征被长上下文稀释了。做产品时值得显式维护它,而不是指望它自然保持。
对普通职场人有个实用推论:模型说“我不能做这个”,未必是硬规则拦截,也可能是它对自己的估计偏保守。换个问法、给出示例、提供工具或更明确的上下文,通常就能做。反过来,当它很爽快地答应时,也值得多问一句“你确定吗”。
以上是通用规律;具体模型的具体行为,以官方文档和实际测试为准。
