一句话定义:模型身份证明(Model Identity Attestation)是一套密码学机制,让模型在处理请求时向调用方证明:我确实是某家厂商发布的那个模型,权重、推理代码和关键配置都没有被替换或改动。
为什么“自称”不算数
今天你调用一个模型 API,能确认对方身份的依据,几乎只有对方自己说的话:接口域名、响应里的 model 字段、文档说明。中间任何一层环节,比如中转站、代理网关、套壳应用,都可能把请求转给更便宜的模型,再把 model 字段改回来。用户很难察觉,因为生成的文字看起来往往差不多。Anthropic 等厂商已在公开讨论并推进这类机制,目的是把“我是谁”从口头声明变成可验证的凭证;具体支持范围以官方页面为准。
怎么做到的
可以这样理解:身份证证明“我是谁”,防伪封条证明“这东西没被拆过”。attestation 把两者合在一起,而且是当场验证,不靠事前声明。
典型流程有四步:
1. 厂商发布时对模型权重和推理配置算一个哈希(hash),得到度量值(measurement),并用自己的密钥对它签名。
2. 推理跑在可信执行环境(TEE, Trusted Execution Environment)里。可以把它理解为硬件层面的保险箱:外部人员,包括云厂商运维,既打不开,也改不了里面运行的代码。
3. 调用方每次请求或定期发一个随机数(nonce)。模型侧返回一份证明报告,其中包含这个 nonce、模型度量值和 TEE 的硬件签名。
4. 调用方验证签名链,并核对度量值是否与厂商公布的一致。nonce 的作用是防止有人拿旧报告重放。
和相邻概念的区别
| 概念 | 证明什么 | 可信度来源 | 局限 |
|---|---|---|---|
| 模型签名(model signing) | 你下载的权重文件是原版、未被篡改 | 厂商私钥 | 只管静态文件,管不到服务器上实际跑什么 |
| 指纹或水印(fingerprint / watermark) | 从输出里“猜”这是哪个模型 | 统计特征 | 可被蒸馏、改写、微调抹掉,只是概率,不能算证明 |
| 模型身份证明(attestation) | 此刻处理你请求的,是这个模型、这段代码 | 硬件信任根和密码学 | 依赖 TEE 硬件与厂商诚实公布度量值 |
一句话记:签名管“文件”,指纹管“行为”,attestation 管“正在运行的那个实例”。
对从业者意味着什么
对企业采购和合规团队来说,它把“供应商说用的是某某模型”变成一条可审计的证据;对做 Agent 和多模型编排的团队来说,它让“我这个 agent 到底在跟谁对话”有了确定答案;对整个生态来说,它提高了“套壳冒充”的成本。
但要留意边界:它证明的是身份与完整性,不证明模型安全、对齐或者能力强,后三者仍然要靠评测(eval)和红队。另外,TEE 方案把信任寄托在硬件厂商和厂商公布的度量值上,供应链本身仍是信任链的一环。
