一句话定义
算力门槛(Compute Threshold)是指监管机构或行业规则用一条训练算力线来划分模型:训练一个模型累计消耗多少浮点运算量(FLOP)。超过这条线的模型,通常被推定为“大模型”或“系统性风险模型”,要额外承担安全评估、风险报告、红队测试(red teaming)等义务;线以下的一般不受同等约束。
举个常被引用的例子:欧盟《人工智能法案》对通用目的模型设定了一个训练算力量级的推定门槛,用来判断是否推定存在系统性风险。具体数值和适用范围以官方文本和最新公告为准。
为什么拿算力当尺子
因为算力便宜好用:它可测量(训练日志、GPU 小时都能折算)、可比、跨模型架构通用,而且数量级上不容易造假。打个比方,这像用灶台功率来给餐厅定消防等级——功率越大,理论上能做出的大菜越多,一旦出事后果越重,所以要求更严的灭火设备和报备流程。算力就是“灶台功率”,不是“菜好不好吃”,也不是“这家店会不会故意纵火”。
问题在于:线以下不等于安全
- 预训练只是投入的一部分。 微调(fine-tuning)的算力往往比预训练低好几个数量级,一个开源小模型加少量领域数据,就可能学到敏感或危险的知识。
- 蒸馏(distillation)能把能力压进小模型。 学生模型参数量小、训练算力低,却继承了老师相当一部分表现。
- 推理算力不在门槛内。 门槛通常只算训练。模型本身不大,但在推理阶段堆算力“多想一会儿”(test-time compute),也能完成更难的任务。
- 算力是投入,不是产出。 同样的算力,数据质量和算法水平不同,做出来的能力可以差很远;反过来,一个中等模型配上检索工具,实际危害可能超过一个“更大但被锁住”的模型。
- 危险不来自最强的那一个。 真正需要防范的往往不是榜单第一名,而是“够用且随手可得”的模型。
| 划线方式 | 看什么 | 优点 | 短板 |
|---|---|---|---|
| 算力门槛 | 训练消耗的 FLOP | 客观、可核验、易执法 | 漏掉微调、蒸馏、推理阶段 |
| 参数量门槛 | 模型参数规模 | 直观 | 忽略训练数据量,小模型也能很强 |
| 能力门槛 | 模型能否完成特定危险任务 | 最贴近真实风险 | 难测、更新慢、可被针对性规避 |
对从业者的实际意义
做模型训练或发布的团队,最好把算力台账当成基础工程:记录训练 token 数、硬件时长的折算方式,以便在需要时能说清自己在线的哪一侧。但更重要的是别把“低于门槛”当成安全证明。门槛是筛子,不是墙:它筛掉的是最容易被注意到的部分,真正的安全要靠上线前的能力评测和红队测试。对普通职场人来说也值得记住一句:合规标签只是“最低要求”,不是“安全认证”。
