GPU(Graphics Processing Unit,图形处理器)是一类拥有大量小型计算核心、擅长同时处理海量相同运算的芯片,如今是 AI 训练和推理的主力硬件。
它最早的任务是画图。屏幕上的每个像素颜色,都要经过相似的计算;一帧画面有上百万像素,逐個算太慢,于是硬件被设计成“很多小核心一起开工”。这和神经网络的需求很像:一次矩阵乘法,本质是成千上万个“乘加”同时进行,每个结果彼此独立,不需要复杂的判断和跳转。GPU 就把这些简单活分给大量小核心,用“人海战术”换吞吐量。
打个比方:CPU(Central Processing Unit,中央处理器)像几位经验丰富的老师傅,能处理复杂流程、做判断、协调全局,但人手少;GPU 像一整个车间的小工,每人只会做简单加减,可一声令下同时动手,搬砖效率极高。训练大模型,就是反复做超大规模的“搬砖”运算,GPU 因此占优。但 GPU 并不是“显卡只会打游戏”:显卡是包含 GPU 芯片、显存、供电和散热的整块板卡,GPU 是板卡上的核心计算芯片;游戏只是它早期最出名的用途。
和相邻概念的区别可以这样看:
| 对比项 | CPU | GPU | NPU/TPU 等专用加速器 |
|---|---|---|---|
| 核心特点 | 少而强,擅长复杂控制与串行逻辑 | 多而简单,擅长规则的大规模并行 | 为特定算子定制的计算单元 |
| 灵活性 | 高 | 较高,可编程 | 相对较低 |
| 典型角色 | 系统调度、数据预处理、控制流 | 图形渲染、模型训练与推理 | 端侧或云端特定推理加速 |
NPU(Neural Processing Unit,神经网络处理器)、TPU(Tensor Processing Unit,张量处理器)等专用芯片,把矩阵运算做得更专更省,但通用性和生态成熟度通常不如 GPU;实际系统里往往是 CPU 负责调度、GPU 负责重活、专用芯片负责特定环节。
对从业者,选 GPU 不能只看“算得快”,还要看显存容量与带宽、精度支持、并行方式和软件生态;模型太大装不下显存,再快也没用。对普通职场人,理解 GPU 有助于明白:AI 服务的成本很大一块来自这些芯片的算力与电力,端侧 AI 则受限于手机里的小型 GPU 或 NPU。具体型号与规格以厂商官方页面为准。
