跳到主内容
快讯直播
AI智模界
AI 词典

模型身份证明:让模型在推理时自证“我是谁”

一句话定义:模型身份证明(Model Identity Attestation)是一套密码学机制,让模型在处理请求时向调用方证明:我确实是某家厂商发布的那个模型,权重、推理代码和关键配置都没有被替换或改动。

为什么“自称”不算数

今天你调用一个模型 API,能确认对方身份的依据,几乎只有对方自己说的话:接口域名、响应里的 model 字段、文档说明。中间任何一层环节,比如中转站、代理网关、套壳应用,都可能把请求转给更便宜的模型,再把 model 字段改回来。用户很难察觉,因为生成的文字看起来往往差不多。Anthropic 等厂商已在公开讨论并推进这类机制,目的是把“我是谁”从口头声明变成可验证的凭证;具体支持范围以官方页面为准。

怎么做到的

可以这样理解:身份证证明“我是谁”,防伪封条证明“这东西没被拆过”。attestation 把两者合在一起,而且是当场验证,不靠事前声明。

典型流程有四步:

1. 厂商发布时对模型权重和推理配置算一个哈希(hash),得到度量值(measurement),并用自己的密钥对它签名。

2. 推理跑在可信执行环境(TEE, Trusted Execution Environment)里。可以把它理解为硬件层面的保险箱:外部人员,包括云厂商运维,既打不开,也改不了里面运行的代码。

3. 调用方每次请求或定期发一个随机数(nonce)。模型侧返回一份证明报告,其中包含这个 nonce、模型度量值和 TEE 的硬件签名。

4. 调用方验证签名链,并核对度量值是否与厂商公布的一致。nonce 的作用是防止有人拿旧报告重放。

和相邻概念的区别

概念证明什么可信度来源局限
模型签名(model signing)你下载的权重文件是原版、未被篡改厂商私钥只管静态文件,管不到服务器上实际跑什么
指纹或水印(fingerprint / watermark)从输出里“猜”这是哪个模型统计特征可被蒸馏、改写、微调抹掉,只是概率,不能算证明
模型身份证明(attestation)此刻处理你请求的,是这个模型、这段代码硬件信任根和密码学依赖 TEE 硬件与厂商诚实公布度量值

一句话记:签名管“文件”,指纹管“行为”,attestation 管“正在运行的那个实例”。

对从业者意味着什么

对企业采购和合规团队来说,它把“供应商说用的是某某模型”变成一条可审计的证据;对做 Agent 和多模型编排的团队来说,它让“我这个 agent 到底在跟谁对话”有了确定答案;对整个生态来说,它提高了“套壳冒充”的成本。

但要留意边界:它证明的是身份与完整性,不证明模型安全、对齐或者能力强,后三者仍然要靠评测(eval)和红队。另外,TEE 方案把信任寄托在硬件厂商和厂商公布的度量值上,供应链本身仍是信任链的一环。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。