跳到主内容
快讯直播
AI智模界
AI 词典

少样本学习:给几个例子就会,凭什么?

一句话定义:少样本学习(Few-shot Learning)指模型只看到一两个到几十个示例,就能完成一个它没被专门训练过的新任务。

这个词有两个用法,容易混。

一种是传统机器学习里的小样本学习:过去训练一个图像分类器,每个类别要几千张标注图;小样本学习想做到每类只给 5 张也能分对。做法通常是元学习(Meta-learning)——先在大量"任务"上训练,让模型学会"怎么快速学新类别",遇到新任务时靠几步梯度更新适配。

另一种是大模型时代更常说的:AI 词典:上下文学习">上下文学习(In-Context Learning。你把几个"输入→输出"的例子直接写进提示词,模型不改任何参数,就照着这个格式把新输入补全。下面主要讲这种。

打个比方:公司来了一位资深会计,他干了二十年,什么账都会做。你只要给他看三张这个公司的报销单是怎么填的,第四张他就知道怎么填了。他不是刚学会了会计,他本来就会,只是需要知道"这家公司的规矩"。示例的作用不是教学,而是说明任务——告诉模型你要的是翻译、是分类、还是改写成某种语气。

为什么光靠上下文就行?因为大模型在预训练时读过海量文本,其中天然包含大量"根据前文推断接下来该写什么"的结构。它学到的本质是一个条件概率:在"若干示例 + 新输入"这个前提下,最可能的输出是什么。示例把任务规格(task specification)塞进了上下文,大幅收窄了输出空间,所以模型不用更新参数也能"对上频道"。换句话说,少样本提示不是在教新能力,而是在调出已有能力

和相邻概念的区别:

概念示例数量是否更新参数典型场景
零样本 Zero-shot0直接下指令,不给例子
少样本 Few-shot1~几十提示词里塞几个范例
微调 Fine-tuning成百上千领域适配、固化风格
传统小样本学习1~5是(元学习阶段)图像分类等感知任务

对从业者的实际意义:少样本提示是成本最低的调优手段,值得先试再考虑微调。几个经验点:示例的格式一致性比数量更重要,输入输出的模板要对齐;标签空间要封闭,别让模型自由发挥;注意示例会带来偏置,比如例子里全是正类,模型就更倾向判正类。示例选得巧,往往比堆得多更有效。

对普通职场人:你不需要懂训练,只要在对话框里先给一两个"我要的答案长这样"的示范,输出质量通常就会明显变好。这大概是投入产出比最高的一句提示技巧。

不同模型对少样本提示的敏感度差异不小,具体支持情况以官方文档为准。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。