跳到主内容
快讯直播
AI智模界
AI 词典

系统卡增补:模型上线后的"补充说明书

一句话定义:系统卡增补(AI 词典:System Card">System Card Addendum)是模型厂商在系统卡(System Card)发布之后,针对模型能力、安全行为或部署方式发生的变化,追加发布的补充披露文档。

系统卡本身随模型上线一起发布,内容大致包括:模型怎么训练的、能做哪些事、在哪些评测上表现如何、已知有哪些风险、部署时加了哪些护栏。但模型不是一次性交付的盒装软件,而是一个持续运行、会被反复调整的服务。换一版系统提示词、接上新的工具调用、开放新的接口、收紧一次安全策略,或者社区发现了新的越狱手法,模型对外表现出的能力与风险状况都会发生变化,于是原来那份系统卡就不再准确。增补件就是用来补上这个缺口的。

打个比方:收房时拿到的验房报告,入住半年后物业又发来一份补充检查说明。这套房并没有被重新交付,这份说明只是把后来发现的问题、做过的修补、以及还没解决的问题写清楚,附在原报告后面。增补件通常不会推翻原系统卡,而是明确声明“以下内容对原文档某一部分做补充或修订”。

文档触发时机主要回答的问题
模型卡 Model Card模型首次公开这是什么模型、给谁用、怎么用
系统卡 System Card模型或系统上线整条链路(含护栏、部署环境)的安全与能力评估如何
系统卡增补 Addendum上线后行为或配置变化变了什么、重测了什么、还剩什么风险
更新日志 Changelog功能迭代新增或修复了哪些功能

采取“事后补充披露”的厂商越来越多的原因

一是因为模型本身在不断变化,靠“发布即定稿”的文档必然会与实际行为脱节;二是因为企业采购、合规审查和第三方评估都要求持续披露,只在上线时发布一次已经无法满足要求;三是因为这能降低沟通成本:当出现新的越狱案例或安全事件时,一份公开的补充说明比逐家客户解释更高效。这里没有完美的做法,但持续补充披露比假装模型上线后一成不变更诚实。

阅读时建议重点关注的几段

1. 触发原因:这是先要看的,搞清为什么发这份增补,是因为新增能力、新暴露的攻击面,还是合规要求。

2. 适用范围与生效时间:涉及哪些接口、版本、地区,你正在使用的服务是否在范围之内。

3. 重新评测的结果:能力与安全指标相比原系统卡有没有变化,测试方法有没有调整;方法变了,数字就不能直接对比。

4. 残余风险与缓解措施:厂商承认还防不住什么,建议集成方额外加哪些护栏。

5. 行动建议:需不需要改提示词、加监控、调整使用场景。

实际意义

对从业者,增补件是判断“我依赖的这个模型最近有没有变化”的第一手信号,颗粒度往往比版本号更细;对普通职场人,它意味着“我用的是哪个版本、边界在哪”这件事需要持续跟踪,而不是上线当天看一眼就结束。具体条款和适用版本,以官方页面为准。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。