跳到主内容
快讯直播
AI智模界
公司动态

Anthropic 向 METR 研究者开放员工级访问权限

据 TechCrunch 报道,Anthropic 正向 AI 安全研究机构 METR 的研究人员开放员工级别的访问权限,使其能够"看到内部"(look under the hood),而不只是从外部对模型进行黑盒测试。

对 AI 从业者而言,这一安排的关键在于访问层级的差异。长期以来,外部研究机构评估前沿模型时,通常只能通过公开 API 或受限接口调用模型,能观察到的往往只是输入与输出行为。员工级访问则把外部研究者放到更接近内部人员的观察位置,为独立评估前沿模型的能力边界与潜在风险提供了更直接的条件。

需要注意的是,目前公开的信息仅指向"员工级访问"这一权限层级本身,具体的访问范围、涉及哪些系统与工具、以及研究过程中附带的条件,均尚未披露。这些细节恰恰决定了此类合作的实际含金量。

对关注 AI 安全与治理的人来说,值得追问的包括几点:访问范围具体覆盖哪些内部资源;研究结论能否公开发表;以及第三方机构在获得深度访问的同时,如何保持评估的独立性。模型厂商与外部评估机构之间的这类安排,其价值最终取决于独立性能否被制度性地保障,而非仅停留在权限开放的姿态上。

如果这一模式被更多前沿实验室采用,它可能影响未来 AI 安全评估的常规做法——外部机构从"只能测行为"走向"能看内部",评估的可信度与可验证性也将随之改变。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。