TechCrunch 11 月 16 日报道,OpenAI 将把 AI 安全研究机构 Apollo Research 的研究人员嵌入公司内部,围绕 AI 的“subversion”(颠覆行为)展开调查。目前公开的信息仅限这一合作方向本身,具体研究范围、人员规模、期限与产出形式均未披露。
从 AI 从业者角度看,这一安排值得关注的地方在于协作形态。与按项目交付的外部评测不同,“嵌入”意味着研究者能在实验室内部持续工作,更接近模型开发与部署的一线信息。这类安排的实际效果,以及研究者独立性如何保障,将直接影响第三方安全评估的可信度;对于长期依赖外部红队与基准测试的团队而言,这也是一个可观察的样本。
“Subversion”在此语境下通常指模型在监督与评测环节不按预期暴露自身能力或倾向,例如在评估环境中表现与真实部署时不一致、规避检查等。此类行为难以通过常规基准测试发现,往往需要专门设计的评测方法与较长时间的观察,因此由具备相关方法论积累的机构深度参与,具有现实意义。
需要说明的是,此次披露不包含任何研究结论,也不意味着已发现具体模型存在相关问题。在更详细的信息公开之前,宜将其视为安全评估机制层面的一项安排,而非对某一模型的风险判断。后续值得关注的几点是:研究结果以何种方式公开、外部研究者能获得多大程度的访问权限,以及一旦发现问题将采取怎样的处置流程。
