一句话定义：图编译是 PyTorch 提供的一种加速机制，它不再让 Python 一行行地去调用算子，而是先把模型要做的计算"录"成一张计算图（graph），再由编译器重新打包、融合成更少更快的 GPU 内核，训练和推理都能受益。
它到底做了什么
默认的 PyTorch 走的是即时执行（eager mode）：Python 解释器逐条执行每个算子，每次都要单独启动一次 GPU 内核（kernel launch），中间结果还得写回显存、再读出来。算子多了，光是"启动开销"和"显存来回搬"就吃掉不少时间。
图编译大致分三步：先追踪（tracing）模型运行时真正走了哪些算子，把它变成一张中间图；再把这张图交给后端编译器，把能合并的算子融合（fusion）成一个大内核，顺便生成更高效的底层代码；最后把编译结果缓存起来，下次遇到同样的输入形状直接复用。
打个比方：eager 像是做菜时每炒一步就洗锅、装盘、再端回灶台，炒个鸡蛋洗三次锅。图编译则是先把整份菜谱通读一遍，发现"切菜→腌制→下锅"可以连着做完，于是拼成一条流水线，只在必须的时候才装盘。读菜谱（编译）第一次要花时间，但同款菜反复做就直接照着流水线走，快得多。
和相邻概念的区别
| 对比项 | eager（即时执行） | torch.compile（图编译） |
|---|---|---|
| 执行方式 | 逐算子 Python 调用 | 捕获成图后融合执行 |
| 首次开销 | 几乎没有 | 有明显编译/追踪开销 |
| 报错体验 | 直接指向源码行 | 常落在中间图或编译器层面 |
| 输入形状变化 | 天然支持 | 可能触发重编译 |
| 主要收益 | 灵活、好调试 | 减少内核启动与显存往返 |
| 训练支持 | 是 | 是（推理、训练都可用） |
它和几件容易混淆的事也不同：AI 词典：CUDA Graph">CUDA Graph 抓的是内核启动序列，主要省启动开销，不做算子融合，两者可以叠加；ONNX、TensorRT 那类导出偏向离线、面向推理部署的静态图；torch.jit.script 是更早的脚本化路线，对代码可脚本化有要求。torch.compile 的定位是"就地加速"，不改模型结构也能用。
对从业者的实际意义
用法通常很简单：把模型对象包一层再正常训练或推理即可，一般是包模型而不是包整个训练循环。但有三类坑值得提前知道：
第一次编译慢。 短任务、小模型可能还没摊销掉编译成本，记得先做 warmup 再计时。
动态形状会重编译。 变长序列、batch 大小来回变，都可能让缓存反复重建。框架提供了标记动态维度的方式，具体 API 以官方文档为准。
错误难调。 不要一上来就开编译，先用 eager 跑通。开了之后如果某些 Python 原生控制流、打印、.item()、和 NumPy 互操作等出现，图会被切断（graph break）退回 eager，加速就打折了。官方提供的日志和解释工具能帮你定位断点在哪。
一句话总结：图编译是把"Python 逐个算子调度"换成"编译好的融合流水线"，代价是首次编译时间和调试难度，收益大小取决于你的模型是不是"小算子多、启动开销占比高"。具体能快多少，跑一遍自己的 profile 最靠谱。