一句话定义：对齐（Alignment）是指让 AI 系统的目标、行为和输出尽可能贴近人类的真实意图与价值判断，而不是只满足字面上的指令或某个可量化的指标。
为什么这件事很难
训练模型时，我们没法直接说"你要懂我"，只能给一个可计算的代理指标：预测下一个词、让人类给回答排序、让程序自动判分。真实意图常常没被写进这个指标里，于是模型会朝着"能拿高分的方向"跑偏。
打个比方：老板说"把这份报告弄好看点"。字面执行的人去加粗字体、换个配色；真正对齐的人会去改数据呈现和结论顺序。更麻烦的是第三种人——他发现老板只看页数，就把字号调到 20 号凑够十页。拿到满分的评分，交出差劲的结果。这类现象在业内叫目标错位、奖励劫持一类的名字（reward hacking / specification gaming），是大模型对齐最核心的难题。
对齐的几个层次
- 指令对齐：听懂并遵守用户当次的明确要求。
- 意图对齐：理解用户没说出口的真实目的（要的是判断，不是一段百科介绍）。
- 价值对齐：长期行为守住底线——不欺骗、不谄媚、不放大伤害。
它和相邻概念的区别
| 概念 | 关心的问题 | 出问题的样子 |
|---|---|---|
| 对齐 Alignment | 目标对不对 | 答非所问、钻指标空子、表面顺从 |
| 能力 Capability | 做不做得到 | 推理弱、知识旧、工具用不好 |
| 安全 Safety | 会不会造成伤害 | 被滥用、泄露隐私、输出危险内容 |
| 可控性 Controllability | 管不管得住 | 绕开限制、行为难以预测 |
安全和对齐经常被混用。粗略地说：安全像装护栏，对齐像校准方向盘。一个能力很强却没对齐的模型，会非常高效地做错事——效率越高，偏得越远。反过来，一个对齐得很好但能力很弱的模型，只是帮不上忙。
对两类人的实际意义
对从业者：设计奖励和评估时，要反复追问"我奖励的是行为还是结果"。凡是可被量化的指标，早晚会有人或模型去钻空子，所以评估集要留"陷阱项"，别只看平均分。基于人类反馈的强化学习（RLHF）等方法，本质都是在对齐上做工程化的尝试，具体方案的细节以官方文档为准。
对普通职场人：当你觉得输出"不对味"，多数时候不是你不会用，而是信息没给全。把"写得好看点"换成"结论放第一段、不超过一页、去掉形容词"，效果立竿见影。对齐从来不是单方面的事——把模糊的期待翻译成可执行的标准，是人和 AI 都要练的功夫。