一句话定义:Glasswing(玻璃翼计划)是 Anthropic 面向自家模型与产品搭的一套漏洞登记与修复流程:把外部研究者、用户和自动化扫描报上来的潜在安全问题,先汇进一张不断变长的“候补清单”,再逐条分诊、排优先级、动手修。
“候补”到底长什么样
先记住一组被公开讨论过的数字:候补清单里积了近 4 万条,真正标记为修复完成的是 217 条。两者一比,修复率大约 0.5%。
这不是“收了一堆不管”,而是这类流程的天生形状。打个物业的比方:小区 App 上一年收到 4 万张报修单,物业实际修好了 217 处。原因不是懒,而是每张单子都得先复核——有的是误报(灯没坏,是拍照角度问题),有的是重复提交(同一台电梯被报了 300 次),有的要拆墙(涉及模型训练数据或对齐策略),还有的修完会让隔壁功能出毛病(模型能力回退)。
AI 系统尤其如此。传统软件的功能边界很明确,“这段代码崩了”就是崩了。模型的行为边界则模糊得多:一句不合适的输出、一次幻觉、一次被绕过的安全提示,算不算漏洞?谁来判定严重程度?这些判断本身就要人来做,于是分诊(triage)能力往往比修复能力更早成为瓶颈。
和相邻概念的区别
| 概念 | 主要动作 | 产出物 | 关注点 |
|---|---|---|---|
| Glasswing 这类候补机制 | 接收、去重、分级、修复 | 状态流转的工单 | 从“收到”到“修好”的全流程 |
| 漏洞赏金(Bug Bounty) | 激励外部发现 | 奖金与报告 | 发现数量 |
| 红队测试(AI 词典:Red Teaming">Red Teaming) | 主动攻击演练 | 攻击样例 | 找到薄弱点 |
| 负责任披露(Responsible Disclosure) | 约定公开时间线 | 公开的安全公告 | 透明度与用户知情 |
一句话:赏金和红队负责往上游“灌水”,Glasswing 是下游那道“排水管”。排水管细,水灌得再猛,池子也会满。
对从业者和普通人的意义
做 AI 产品的团队,值得照抄的是“候补清单”这个动作——把所有报上来的问题先记下来、标状态、定期看积压量。但更值得警惕的是那 0.5%:“已收录”不等于“已修复”,“已响应”不等于“已解决”。看安全公告时,分清这几个词;给自己团队做汇报时,也别说“我们收到了 300 条反馈”就当作成绩。
普通人同理:提交了反馈、点了报错、发了工单,只完成了链条的第一环。具体口径与最新数字,以官方页面为准。
透明的翅膀好看,但透明不等于没有骨架——真正决定体验的,是骨架撑不撑得住那 4 万张单子。
