据 The Verge 报道,一些网站正在关闭对 AI 智能体(AI agents)的访问入口;它们通过技术手段限制或阻止这类自动化程序读取自家内容。这意味着,过去默认对爬虫与自动化访问相对开放的 Web 生态,正在出现新的边界。
对 AI 从业者而言,这一动向有几方面直接影响。第一,依赖网页抓取获取信息的智能体与检索类应用,可用数据源可能因此收窄;产品设计需要重新评估访问策略与合规路径,不能假设公开网页天然可读。第二,网站运营方与 AI 开发者之间的授权博弈会更加显性。内容是否允许被智能体读取、以何种方式读取,正在从技术上的默认行为,变成需要明确确认与协商的事项。第三,识别与拦截 AI 智能体的能力,会逐渐成为网站基础设施的一部分;相应地,智能体一侧也需要更清晰的身份标识与访问约定,以降低被误判或封锁的概率。
目前这一趋势仍在演进,尚不清楚会有多少网站跟进,也不清楚行业最终会形成怎样的通行规则。但可以确定的是,“自由访问公开网页”不再是 AI 智能体默认拥有的前提。围绕访问权、内容授权与流量价值的讨论,将成为 AI 产品落地过程中无法回避的一环,也提醒开发者在架构设计早期就把内容来源的可持续性纳入考量。
