跳到主内容
快讯直播
AI智模界
公司动态

微软:AI Agent 如同“内部威胁”,前沿模型不可信任

据 TechCrunch 报道,微软将 AI 词典:AI Agent">AI Agent 类比为“内部威胁”(insider threats),并直言前沿模型“无法被信任”。这一表态把企业安全领域一个原本用于描述员工、承包商等内部人员的概念,直接套用到了自主运行的 AI 智能体身上。

“内部威胁”在安全语境中的核心含义是:主体本身拥有合法身份与访问权限,因此其行为不会被传统的边界防御视为异常,一旦出错或被人利用,破坏力反而更大。微软用这一类比想说明的正是 AI Agent 的处境——它们被授予账号、凭证、数据与系统操作权限,以便代替人完成跨系统的任务,但支撑其决策的前沿模型并不具备可完全信赖的稳定性。模型可能被提示注入诱导、可能误解指令、也可能在无人监督的链条中把一次小偏差放大成实际动作。

这一判断的重要性在于它改变了企业部署 Agent 的安全前提。如果默认模型可信,治理重点会放在接入与效率上;而一旦把 Agent 当作潜在的“内部人员”来对待,重点就转向身份与权限的最小化、行为审计、异常监测以及关键操作的审批拦截——也就是把零信任的思路延伸到非人类身份。对于正在把 Agent 接入生产系统的团队而言,这意味着安全预算与架构设计需要与业务扩张同步推进,而不是事后补救。

值得注意的是,微软并未否定 Agent 的价值,其表态更像是对行业节奏的一次提醒:能力越强、权限越大的模型,越需要被当作需要持续监视的对象而非可信执行者。在前沿模型可靠性尚无定论的阶段,这一立场预计会影响企业客户对 Agent 产品的评估标准与采购要求。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。