一句话定义：分类（Classification）和回归（Regression）是监督学习的两大基本任务，区别只有一个：模型输出的是离散的类别标签，还是连续的数值。
先看一个生活场景
小区门口测体温。保安只回答“发烧 / 不发烧”，这是分类；电子体温计报出 37.8℃，这是回归。有意思的是两者能互相转换：给体温计加一条“≥37.3℃ 报警”的规则，回归就变成了分类；而分类器输出的“发烧概率 0.83”，本身又是个连续值。
因此建模时真正要问的是：业务最终要的是“一个决策”还是“一个估计”。预测房价是回归，判断“这套房是否超过 500 万”是分类，两者用的是同一批数据。
损失函数和评估指标跟着输出走
| 分类 | 回归 | |
|---|---|---|
| 输出 | 类别标签或各类概率 | 连续实数 |
| 典型损失 | 交叉熵 cross-entropy | 均方误差 MSE、平均绝对误差 MAE |
| 典型指标 | 准确率 accuracy、精确率 precision、召回率 recall、F1、AUC | MAE、RMSE、R² |
| 怎么变成决策 | 概率 + 阈值 | 数值本身，阈值事后由业务加 |
为什么不能混用：分类输出经过 softmax 是概率分布，交叉熵直接惩罚“把正确答案的概率压得很低”，梯度性质好；若用 MSE 去拟合概率，模型在“已经很自信但答错了”时几乎没有被纠正的力度。反过来，回归拿准确率评估会得到荒谬结论——房价预测每套都差 3 万，准确率是 0，但模型其实很有用。
常被忽略的第三个选项：阈值
分类模型真正给出的是概率，0.5 只是默认值。风控、疾病筛查这类场景，漏判和误判的代价差好几个量级，阈值往哪边挪是业务判断，不是模型判断。很多人调完模型就结束，其实收益往往在阈值上。
几个容易踩的坑
- 标签是数字不等于回归。预测 1–5 星评分、年龄段、商品类目 ID，本质都是分类；只有当类别之间真的等距（金额、温度、时长），才适合按连续值处理。
- 还有第三种：聚类（clustering）没有标签，属于无监督，别和分类混为一谈。
- 样本不平衡时准确率会迷惑人。全预测“不违约”也能有 99% 准确率，得看精确率和召回率。
对从业者的意义：接到需求先问“要决策还是要估计”，损失函数、评估指标、阈值策略就全定了。对普通人的意义：看到“准确率 99%”先问是什么任务、正负样本比例多少；看到“平均误差 3 万”也别拿去和“误判率 5%”比大小，它们不是同一把尺子。