跳到主内容
快讯直播
AI智模界
公司动态

纳德拉:应假定所有 AI 模型都已被“攻陷”

据 The Verge 报道,微软 CEO 萨提亚·纳德拉(Satya Nadella)提出一个颇具冲击力的判断:在安全问题上,应当假定所有 AI 模型都已被“攻陷”(compromised)。

这一表态的指向并不难理解。过去几年,企业部署 AI 时的默认假设往往是“模型本身可信,风险来自外部输入”。纳德拉的说法把这一前提反转过来:模型本身就应该被当作不可信组件来对待。对于正在把大模型接入生产系统的团队而言,这意味着安全边界需要重新划定——模型不再是可信内核,而是需要被隔离、监控与验证的外部依赖。

从工程角度看,这种思路与安全领域长期倡导的“零信任”架构一脉相承。业界围绕模型投毒、提示注入、供应链污染等方向的讨论已经持续多时;如果承认模型可能在任何环节出问题,防御重点就不应只停留在输入端过滤,而需要覆盖模型来源、权重分发、推理调用与输出校验的整条链路。

对 AI 从业者而言,这条判断的现实意义在于:安全设计不宜再作为上线后的补丁,而应成为模型选型与系统架构的前置条件。无论是自研模型还是调用第三方 API,“假设它已经不可信”都是一条更保守、也更贴近真实威胁的起点。

纳德拉并未在报道中给出具体的落地路径,但这一表态本身已足够明确:在 AI 大规模进入企业核心业务的过程中,信任不应是默认值。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。