跳到主内容
快讯直播
AI智模界
AI 词典

Glasswing:4 万条候补,只修好 217 条

一句话定义:Glasswing(玻璃翼计划)是 Anthropic 面向自家模型与产品搭的一套漏洞登记与修复流程:把外部研究者、用户和自动化扫描报上来的潜在安全问题,先汇进一张不断变长的“候补清单”,再逐条分诊、排优先级、动手修。

“候补”到底长什么样

先记住一组被公开讨论过的数字:候补清单里积了近 4 万条,真正标记为修复完成的是 217 条。两者一比,修复率大约 0.5%。

这不是“收了一堆不管”,而是这类流程的天生形状。打个物业的比方:小区 App 上一年收到 4 万张报修单,物业实际修好了 217 处。原因不是懒,而是每张单子都得先复核——有的是误报(灯没坏,是拍照角度问题),有的是重复提交(同一台电梯被报了 300 次),有的要拆墙(涉及模型训练数据或对齐策略),还有的修完会让隔壁功能出毛病(模型能力回退)。

AI 系统尤其如此。传统软件的功能边界很明确,“这段代码崩了”就是崩了。模型的行为边界则模糊得多:一句不合适的输出、一次幻觉、一次被绕过的安全提示,算不算漏洞?谁来判定严重程度?这些判断本身就要人来做,于是分诊(triage)能力往往比修复能力更早成为瓶颈。

和相邻概念的区别

概念主要动作产出物关注点
Glasswing 这类候补机制接收、去重、分级、修复状态流转的工单从“收到”到“修好”的全流程
漏洞赏金(Bug Bounty)激励外部发现奖金与报告发现数量
红队测试(AI 词典:Red Teaming">Red Teaming)主动攻击演练攻击样例找到薄弱点
负责任披露(Responsible Disclosure)约定公开时间线公开的安全公告透明度与用户知情

一句话:赏金和红队负责往上游“灌水”,Glasswing 是下游那道“排水管”。排水管细,水灌得再猛,池子也会满。

对从业者和普通人的意义

做 AI 产品的团队,值得照抄的是“候补清单”这个动作——把所有报上来的问题先记下来、标状态、定期看积压量。但更值得警惕的是那 0.5%:“已收录”不等于“已修复”,“已响应”不等于“已解决”。看安全公告时,分清这几个词;给自己团队做汇报时,也别说“我们收到了 300 条反馈”就当作成绩。

普通人同理:提交了反馈、点了报错、发了工单,只完成了链条的第一环。具体口径与最新数字,以官方页面为准。

透明的翅膀好看,但透明不等于没有骨架——真正决定体验的,是骨架撑不撑得住那 4 万张单子。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。