跳到主内容
快讯直播
AI智模界
AI 词典

RSP(负责任扩展政策):能力越强,管得越严

一句话定义:RSP(Responsible Scaling Policy,负责任扩展政策)是模型开发者事先公开的一套承诺:当模型的某项能力跨过预设阈值时,就自动触发对应等级的更严格安全措施,也就是安全投入跟着能力走,而不是临到发布才临时决定。

原理:一套分级的触发规则

RSP 的重点是一套分级触发的规则,而非某项具体技术。它常被类比为生物实验室的 BSL-1 到 BSL-4 分级:研究什么病原体,就用什么等级的实验室,防护级别由风险源决定,而不是由实验室的名气决定。以 Anthropic 在 2023 年公布的版本为例,它设置了 AI Safety Level(ASL,AI 安全等级)阶梯,每一级对应不同的安保、部署和评估要求;一旦评估显示模型接近某个阈值,例如在生物、网络安全等高风险领域的辅助能力明显上升,就必须升级防护,做不到就不能继续发布或继续训练下一档。OpenAI 的 Preparedness Framework、Google DeepMind 的 Frontier Safety Framework 属于同类思路的不同写法,具体条款以各家官方页面为准。

关键在于“预先承诺”:阈值和对应措施要在模型训练出来之前就写清楚,避免“看到结果再改标准”。这也是它最容易被质疑的地方:标准由谁定、评估是否可信、有没有外部监督,都是公开的批评点。

和相邻概念的区别

概念关注点与 RSP 的关系
负责任 AI 原则价值观与伦理主张讲“想成为什么”,RSP 讲“到哪一步做什么”
红队测试与评测具体探测方法是 RSP 的输入数据
模型卡、系统卡事后文档披露RSP 是事前的决策程序
法规合规外部强制要求RSP 多为企业自愿承诺,与法规互补

对从业者和普通人的意义

对从业者来说,RSP 把“能力评测”变成了工程需求:评测集、隔离沙箱、权重保护、可回滚的发布流程都得提前建好,安全不再是上线前的一道签字,而是贯穿训练与发布的流程。对普通职场人,它是一个判断信号:这家公司是“能力涨了才想起安全”,还是“先说好涨到哪就该怎么做”。前者靠反应速度,后者靠制度设计,长期看差别很大。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。