跳到主内容
快讯直播
AI智模界
AI 词典

AIPREF:给网站挂一块“AI 能怎么用我”的铭牌

一句话定义:AIPREF(AI Preferences,AI 偏好表达)是 IETF(Internet Engineering Task Force,互联网工程任务组)正在推进的一套机器可读偏好字段,让网站用统一格式声明:我的内容允不允许 AI 抓取、允不允许拿去训练,以及在什么条件下允许。

打个比方:以前的网站门口,各家自己手写小纸条——“禁止入内”“可看不可拿”“拿走得付钱”。字迹、语言、位置各不相同,爬虫只能一个字一个字猜。AIPREF 想干的事,是大家约定一块格式统一的铭牌,上面有几个固定格子:能进来吗?能拍照吗?能拿去做标本吗?要付钱或署名吗?机器读到这块牌子,就知道该怎么处理,不用再靠猜。

为什么需要它:robots.txt 解决的是“能不能爬”,但 AI 时代真正纠结的问题是“爬走之后能拿去干什么”。同一篇博客,允许搜索引擎建索引,不等于允许塞进训练语料;允许训练,也不等于免费。这些区别在 robots.txt 的语法里表达不出来,于是才有了新字段的讨论空间。

和相邻概念的分工:

维度robots.txtAIPREFRSL(Really Simple Licensing)
主要回答能不能来抓抓走能怎么用(训练、使用条件)按什么许可和条件授权使用
表达形态站点根目录的文本文件结构化的偏好字段与词汇表结构化的许可条款
粒度按路径、按爬虫按用途、按内容类型按内容与用途
性质行业惯例,非合同偏好声明,非合同更接近可机器读取的授权条款

简单说:robots.txt 管门口,AIPREF 管用途,RSL 管交易。三者是分层配合,不是互相替代——先用 robots.txt 决定要不要让对方进门,再用 AIPREF 说清“训练免谈”或“训练需署名”,需要收费的则交给 RSL 这类许可表达。草案仍在讨论中,具体字段名称和取值以 IETF 官方页面为准。

对从业者的实际意义:

  • 做爬虫、数据管道、RAG(Retrieval-Augmented Generation,AI 词典:检索增强生成">检索增强生成)语料采集的团队,应把这类字段纳入抓取前的检查清单,而不是只看 robots.txt 和 User-Agent。
  • 做内容站、企业官网、媒体站的人,可以用一条声明替代过去“在页脚写一句不许AI使用”的模糊做法,降低沟通成本。
  • 普通职场人值得知道的一点:这类标准本质上是君子协定,遵守靠自觉,真正的兜底仍是版权法与合同。所以它降低了摩擦,但没有取消谈判。

现在就可以做的一件小事:去自家站点确认 robots.txt 是否还停留在“只挡搜索引擎”的旧思路,并关注 AIPREF 的落地进展——统一铭牌挂上去的那天,早准备的一方少踩坑。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。