一句话定义：Safety Case（安全论证）是一份结构化文档，用来论证「这一次前沿模型训练为什么是可接受的」，并把结论拆成可被外部审查的威胁模型（threat model）、证据链和回退/中止条件。
它的核心思路，是把一句没人能验证的「我们很小心」，换成一串可以逐条质疑的具体主张。打个比方：物业说「这栋楼很安全」没有意义，但如果他递给你一份文件——列出可能出事的环节、每个环节的防护措施、实测数据、以及「如果消防水压低于某个值就立刻停业」的硬性红线——你才能真的去审。
前沿训练里的安全论证通常是这么拆的：
威胁模型：先明确怕什么。比如模型是否显著降低生物或网络攻击的门槛、是否学会在训练中规避监督、是否出现自我复制或资源获取的苗头。写不出具体威胁，后面的证据就无从谈起。
分层主张：顶层主张是「本次训练不会造成灾难性风险」。往下拆：模型不具备某类危险能力；即便具备，也有缓解措施；即便缓解失效，还有检测与响应。每层都要有对应的证据支撑，而不是一句「我们做了很多测试」。
证据链：危险能力评测的分数与趋势、红队（red teaming）结果、对齐与可解释性检查、训练期间的监控告警、系统卡（system card）里的事实数据。关键在于证据要能追溯到具体主张——哪项数据支撑哪条结论，缺哪块就标缺哪块。
回退与中止条件：预先写死的红线。例如某项危险能力评测超过阈值，就回滚到某个 checkpoint、暂停训练、扩大评估范围，或推迟部署。这一条最见功夫，因为它把「要不要停」从临场争论变成了事先约定。
残余风险：诚实写明哪些主张证据不足。一份只报喜的论证没有审查价值。
它和相邻概念的区别：
| 概念 | 回答的问题 | 主要给谁看 |
|---|---|---|
| 模型卡/系统卡 | 这个模型是什么、表现如何 | 公众、用户 |
| 前沿安全框架（如 RSP、Preparedness 类文件） | 什么能力触发什么动作 | 内部治理、监管 |
| 红队与评测 | 模型能不能被搞坏 | 内部研发团队 |
| Safety Case | 为什么这次训练整体可接受、证据够不够、何时该停 | 外部评估方、监管、决策层 |
实际意义分三层。对前沿实验室，它是内部决策的载体，让「继续还是暂停」变成一个基于预设证据的判断，而不是被舆论或进度推着走。对外部评估方和监管机构，它提供了一个可审查的对象——可以逐条质疑主张与证据是否匹配，而不只是看结论。对普通从业者，这套思路完全可以迁移：支付系统大改、医疗功能上线、自动化决策投产，都可以写一版迷你安全论证——主张是什么、证据是什么、什么条件下回滚。花半天写清楚，往往比事后复盘省事得多。
目前 Safety Case 还没有统一模板，各家写法差异不小，具体标准请以官方页面和监管要求为准。