一句话定义:AIPREF(AI Preferences,AI 偏好表达)是 IETF(Internet Engineering Task Force,互联网工程任务组)正在推进的一套机器可读偏好字段,让网站用统一格式声明:我的内容允不允许 AI 抓取、允不允许拿去训练,以及在什么条件下允许。
打个比方:以前的网站门口,各家自己手写小纸条——“禁止入内”“可看不可拿”“拿走得付钱”。字迹、语言、位置各不相同,爬虫只能一个字一个字猜。AIPREF 想干的事,是大家约定一块格式统一的铭牌,上面有几个固定格子:能进来吗?能拍照吗?能拿去做标本吗?要付钱或署名吗?机器读到这块牌子,就知道该怎么处理,不用再靠猜。
为什么需要它:robots.txt 解决的是“能不能爬”,但 AI 时代真正纠结的问题是“爬走之后能拿去干什么”。同一篇博客,允许搜索引擎建索引,不等于允许塞进训练语料;允许训练,也不等于免费。这些区别在 robots.txt 的语法里表达不出来,于是才有了新字段的讨论空间。
和相邻概念的分工:
| 维度 | robots.txt | AIPREF | RSL(Really Simple Licensing) |
|---|---|---|---|
| 主要回答 | 能不能来抓 | 抓走能怎么用(训练、使用条件) | 按什么许可和条件授权使用 |
| 表达形态 | 站点根目录的文本文件 | 结构化的偏好字段与词汇表 | 结构化的许可条款 |
| 粒度 | 按路径、按爬虫 | 按用途、按内容类型 | 按内容与用途 |
| 性质 | 行业惯例,非合同 | 偏好声明,非合同 | 更接近可机器读取的授权条款 |
简单说:robots.txt 管门口,AIPREF 管用途,RSL 管交易。三者是分层配合,不是互相替代——先用 robots.txt 决定要不要让对方进门,再用 AIPREF 说清“训练免谈”或“训练需署名”,需要收费的则交给 RSL 这类许可表达。草案仍在讨论中,具体字段名称和取值以 IETF 官方页面为准。
对从业者的实际意义:
- 做爬虫、数据管道、RAG(Retrieval-Augmented Generation,AI 词典:检索增强生成">检索增强生成)语料采集的团队,应把这类字段纳入抓取前的检查清单,而不是只看 robots.txt 和 User-Agent。
- 做内容站、企业官网、媒体站的人,可以用一条声明替代过去“在页脚写一句不许AI使用”的模糊做法,降低沟通成本。
- 普通职场人值得知道的一点:这类标准本质上是君子协定,遵守靠自觉,真正的兜底仍是版权法与合同。所以它降低了摩擦,但没有取消谈判。
现在就可以做的一件小事:去自家站点确认 robots.txt 是否还停留在“只挡搜索引擎”的旧思路,并关注 AIPREF 的落地进展——统一铭牌挂上去的那天,早准备的一方少踩坑。
