一句话定义:弱监督学习(weak supervision)指的是在标签不精确、不完整或不准确的情况下训练模型的一类方法。它关心的不是"没有标签怎么办",而是"标签本身靠不住怎么办"。
三种"弱"各自长什么样
- 不完整(incomplete):只有一部分样本有标签,其余没有。
- 不精确(inexact):标签粒度比任务粗。比如做医学影像的分割,却只有"这张片子有没有病灶"的整图结论;做情感分析,只有整段话的好评/差评,没有逐句判断。经典解法是多示例学习(multi-instance learning):一包样本共享一个标签,模型自己去猜是包里哪个部分起了作用。
- 不准确(inaccurate):标签有噪声。众包标注员随手点、业务日志里用点击当"喜欢"、用知识库实体对齐批量生成标签(远程监督,distant supervision),错标漏标都在所难免。
打个比方:半监督学习(semi-supervised learning)像班里只有十个学生有老师批改过的标准答案,其余人没答案——答案本身是可信的。弱监督则是:答案倒是人手一份,但那是隔壁班同学凭印象写的,有人把"3.5"抄成"35",有人只写了"这题考几何"没写步骤。前者的问题是"没答案的怎么用",后者的问题是"答案有毒怎么用"。
和相邻概念的区别
| 概念 | 标签状态 | 核心问题 |
|---|---|---|
| 半监督学习 | 少量干净标签 + 大量无标签 | 如何把无标签数据用起来 |
| 弱监督学习 | 标签粗、缺、脏 | 如何在噪声标签上仍学到对的东西 |
| AI 词典:自监督学习">自监督学习(self-supervised) | 无人工标签,从数据自身构造信号 | 如何设计预训练任务 |
| 主动学习(active learning) | 标签干净但很贵 | 该挑哪些样本去问人 |
所以"弱监督 = 半监督"是常见误解。二者可以叠加:既缺标签又脏标签,方法上就要同时处理覆盖率和噪声。
对实际工作的意义
真实业务里的标签几乎都是弱监督产物:运营规则打标、用户行为反推、外包标注、老模型蒸馏出来的伪标签。与其花大力气追求"完美标注",不如先把标签质量量化出来——抽样估计噪声率、看混淆结构、用对噪声鲁棒的损失函数、对高损失样本重新核查。工程上更划算的路径常常是:接受标签不完美,把力气花在让模型对噪声不敏感上。
一句话记住:半监督是"样本不够",弱监督是"监督信号不够格"。具体工具与框架的现状,以官方文档为准。
