一句话定义:模型卡(Model Card)是模型发布方随模型一起提供的标准化说明文档,交代这个模型能干什么、不能干什么、是怎么训出来的、测过什么、哪里会翻车。
打个生活化的比方:它像食品包装背面的配料表、营养成分表和过敏原提示。你不需要知道工厂流水线怎么运转,但你需要知道里面有什么、适合谁吃、对花生过敏的人该不该碰。模型卡就是给模型贴的这么一张标签——只不过"过敏原"换成了"易产生幻觉的场景""对某些口音识别率偏低"这类风险提示。
一张模型卡通常写什么
- 基本信息:模型类型(文本、多模态等)、输入输出形式、版本与更新日期。
- 用途:设计用来做什么(intended use),以及明确不建议用在哪些场景(out-of-scope use)。这一条往往最值钱,因为它直接划定了责任边界。
- 训练数据概况:数据来源类型、大致时间范围、清洗与过滤思路。通常给的是"来源类别"而非逐条清单。
- 评测:在哪些维度上测过、用什么方法测、结果如何,以及评测本身的局限(比如基准测试可能存在数据污染)。
- 已知限制与风险:哪些任务上明显不可靠、对哪些语言或群体表现更差。
- 使用建议:怎么调用、需要叠加哪些防护措施。
和相邻概念的区别
和技术报告/论文不同:论文回答"我为什么有效、创新在哪";模型卡回答"这个成品你该怎么用、别怎么用",偏工程与合规。
和系统卡(AI 词典:System Card">System Card)分工不同:模型卡盯着"模型"这个零件,系统卡盯着"整个系统"这个成品。同一个模型可以装进很多产品,所以模型卡通常一份,系统卡可能一个产品一份。
| 模型卡 Model Card | 系统卡 System Card | |
|---|---|---|
| 对象 | 单个模型 | 一个完整产品/部署系统 |
| 关注点 | 用途、数据、评测、模型层限制 | 模型之外的护栏、检索、工具调用、红队测试 |
| 粒度 | 一个模型一份 | 一次部署/版本一份 |
| 主要读者 | 开发者、集成方 | 用户、安全与合规团队 |
对实际工作的意义
对从业者:选型时先读模型卡,能省掉大量试错;自己发布模型时,写模型卡是低成本高回报的动作——把限制讲清楚,反而减少后续扯皮。
对普通职场人:把它当作采购前的说明书。一个模型没有模型卡,就意味着它的边界得由你自己摸索,风险也由你自己承担。
监管与行业规范对这类文档的要求在持续演进,具体格式和强制程度以官方页面为准。判断模型卡写得好不好有个简单标准:它敢不敢把"不适合做什么"写清楚。只列优点的,那叫广告。
