据 Ars Technica 报道,有研究者指出,OpenAI 与 Google 正在推进的新一代 AI 模型存在一个共性问题:它们相对容易被诱导绕过安全防护,从而生成裸露图像。研究者将这一现象与两家公司近期在新模型上的推进节奏联系在一起,认为模型能力的扩张与滥用防护之间存在落差。
对 AI 从业者而言,这一说法的关键不在于单次绕过是否成功,而在于它触及生成式图像产品长期存在的结构性难题。非自愿的裸露图像一直是内容安全领域最敏感、也最难处理的类别之一,既涉及平台责任,也涉及对真实人物的潜在伤害。当厂商把更强的生成与编辑能力推向更广泛的用户,防护层一旦较易被规避,风险就会随使用规模放大。
同样值得注意的是,研究者强调的是"容易被诱导",而非模型在正常使用下主动生成此类内容。这意味着争议更多落在防护机制的可规避性上,而非模型的基础能力边界。对于依赖模型 API 构建产品的开发者与企业客户,上游模型的安全表现会直接影响其合规评估与上线决策——它正在成为下游业务能否落地的先决条件之一。
该报道未披露具体涉及的模型版本、绕过方式与复现条件。在更完整的技术细节公开之前,这一结论的适用范围仍有待验证。可以确定的是,随着 OpenAI、Google 等厂商加速迭代多模态模型,安全防护能否同步跟上,将持续成为外界审视其发布节奏的核心问题之一。
