每小时几条，看懂 AI 行业正在发生什么
本站每小时扫描全网热点，由 AI 筛出 AI 行业动态写成简短快讯，每天早上汇总为一份晨报。所有 AI 内容均有标注，并附原始来源。
最新文章
全部专栏
AI 词典GRPO：不请「裁判」的强化学习算法
一句话定义 GRPO（Group Relative Policy Optimization，组相对策略优化）是一种强化学习算法。它去掉了 PPO 里那个需要单独训练的价值模型（value model，也叫 critic）
AI 词典宪法 AI（Constitutional AI）：让模型照着一纸“家规”自我纠错
一句话定义：宪法 AI（Constitutional AI，简称 CAI）是一种训练 AI 助手的方法——先写下一套自然语言原则（即“宪法”），再让模型依据这些原则批评和修改自己的回答，并用 AI 生成的反馈替代大量人类
- AI 词典
稀疏自编码器（Sparse Autoencoder）：把模型的"一锅汤"拆成一排调料瓶
一句话：稀疏自编码器（Sparse Autoencoder, SAE）是一种训练方法，把大模型内部混杂的激活向量拆成上万个各自只负责一个概念的稀疏特征，是可解释性研究里最常用的工具之一。 为什么需要拆 模型某一层有几千个
AI 词典模型合并（Model Merging）：不训练，把几个模型合成一个
一句话定义：模型合并（Model Merging）指把多个已经微调好的模型权重（weights）直接按规则融合成一个新模型，过程中基本不做梯度训练。 大模型微调（finetuning）往往会得到一个“偏科”模型：在代码数
AI 词典查询改写与 HyDE：先改问题，还是先编答案？
一句话定义 查询改写（Query Rewriting）是把用户原话改写成更适合检索系统理解的查询；HyDE（Hypothetical Document Embeddings，假设文档嵌入）则更“绕”：先让大模型虚构一段可
AI 词典混合检索（Hybrid Search）：关键词和语义，一个都别落下
一句话定义 混合检索（Hybrid Search）是同时用「关键词检索」和「向量语义检索」两套方式去召回内容，再把双方结果合并、重新排序的一种检索策略。 两种检索各自的短板 BM25 这类关键词检索靠词频和逆文档频率打分
AI 词典重排序（Reranking）：先海选，再面试
一句话定义 重排序（Reranking）是在检索系统先用便宜快速的方法捞出一批候选文档，再用更贵、更准的模型对这一小批文档重新打分排序的步骤。它不负责"找得到"，只负责"排得准"。 为什么要分两步 在检索增强生成（RAG
AI 词典分块（Chunking）：把长文档切成能被检索的小块
一句话定义：分块（Chunking）就是把一份长文档切成一段段短文本（chunk），再分别转成向量存进检索库，让系统需要时只取相关的那几段，而不是把整本书塞给模型。 为什么不能整篇塞进去 想象公司有上千页规章制度，员工问
AI 词典HNSW：把百万级向量检索压到毫秒级的多层导航图
一句话定义 HNSW（Hierarchical Navigable Small World，分层可导航小世界）是一种近似最近邻搜索（Approximate Nearest Neighbor, ANN）索引算法：它把向量组
AI 词典向量数据库（Vector Database）：给“意思”建索引
一句话定义：向量数据库（Vector Database）是一种专门存储、管理和检索向量（vector）的数据库，核心能力是“给我一个向量，找出最相似的若干条”。 传统数据库擅长按身份证号找人：知道确切 ID 或字段就能精
AI 词典护栏（Guardrails）：给模型装一圈看不见的护栏
一句话定义 护栏（Guardrails）是在大模型（LLM）的输入和输出两侧，加装规则、分类器和过滤层，用来限制模型“能说什么、能做什么”。它不修改模型本身，而是像马路边的护栏：车还是那辆车，但冲出车道时会被拦住。 它通
AI 词典红队测试（Red Teaming）：主动攻击模型，提前找出风险
一句话定义 红队测试（Red Teaming）就是请一队“合法攻击者”，主动用恶意、边缘、诱导性的输入去攻击 AI 模型，提前找出它在安全、偏见、隐私和滥用方面的漏洞，然后把问题交给开发团队修复。 它是怎么做的 打个比方
AI 词典越狱（Jailbreak）：让模型自己拆掉护栏
一句话定义 越狱（Jailbreak）指用户通过精心构造的提示词，诱导大模型绕过自身的安全限制，输出它本该拒绝的内容。攻击点不是系统漏洞，而是模型「判断这句话该不该拒绝」的那套逻辑。 它到底绕过了什么 模型在出厂前会做对
AI 词典水印（Watermarking）：给 AI 生成的内容留一个统计签名
一句话定义 水印（Watermarking）指在 AI 生成的内容里嵌入一种不易被察觉的固定模式，让检测方能用统计方法判断「这段内容大概率来自模型」，而不必依赖外挂的标签文件。 原理：不是贴标签，而是「偷偷偏好某些词」
AI 词典差分隐私（Differential Privacy）：给数据发布加把「噪声锁」
一句话定义 差分隐私（Differential Privacy，简称 DP）是一套数学保证：在数据集上做统计或训练模型时，无论某个人的数据在不在这个数据集里，最终输出的结果分布几乎不变——于是别人无法从结果反推出「这个人