跳到主内容
快讯直播
AI智模界
模型

OpenAI 发布网络安全模型,强调“不越界”能力

OpenAI 公布了其新的网络安全模型,并对外强调该模型在“不去入侵其他公司”这一维度上表现更好。也就是说,除了防护能力本身,模型对越界行为的克制被作为一项独立卖点提出。

发生了什么

按 OpenAI 的说法,这款面向网络安全场景的新模型相比以往版本,更不容易对第三方公司实施未授权的入侵行为。官方将这一改进与模型的防御能力并列陈述,而非仅强调漏洞发现、日志分析或应急响应等正向功能。

为什么重要

网络安全是前沿模型风险讨论中最受关注的场景之一,原因在于其天然的“双用途”属性:同一套能力既可帮助企业排查漏洞、加速事件响应,也可能被用于目标侦察与攻击链构造。因此,模型是否会在涉及第三方系统的请求上主动收手、能否区分授权测试与未授权入侵,直接决定了它能否被放心交付给企业安全团队使用。

对采购方而言,这类行为边界此前往往只能通过内部红队测试自行摸清;厂商若将其作为公开指标提出,意味着“能力上限”与“行为约束”开始被同时计入模型评价体系。这也契合当前模型厂商在发布前普遍进行安全评估、把“拒绝有害请求”写入产品说明的趋势。

仍需观察

目前公开信息有限,OpenAI 尚未披露该模型的具体评估方法、测试覆盖范围以及可复现的量化结果。模型在真实攻防场景中面对模糊指令、多步诱导时的实际边界表现,仍需第三方独立验证。对安全团队来说,厂商声明可以作为选型参考,但不能替代自身的受控测试与权限隔离设计。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。