跳到主内容
快讯直播
AI智模界
AI 词典

GPU:AI 训练和推理的人海战术主力

GPU(Graphics Processing Unit,图形处理器)是一类拥有大量小型计算核心、擅长同时处理海量相同运算的芯片,如今是 AI 训练和推理的主力硬件。

它最早的任务是画图。屏幕上的每个像素颜色,都要经过相似的计算;一帧画面有上百万像素,逐個算太慢,于是硬件被设计成“很多小核心一起开工”。这和神经网络的需求很像:一次矩阵乘法,本质是成千上万个“乘加”同时进行,每个结果彼此独立,不需要复杂的判断和跳转。GPU 就把这些简单活分给大量小核心,用“人海战术”换吞吐量。

打个比方:CPU(Central Processing Unit,中央处理器)像几位经验丰富的老师傅,能处理复杂流程、做判断、协调全局,但人手少;GPU 像一整个车间的小工,每人只会做简单加减,可一声令下同时动手,搬砖效率极高。训练大模型,就是反复做超大规模的“搬砖”运算,GPU 因此占优。但 GPU 并不是“显卡只会打游戏”:显卡是包含 GPU 芯片、显存、供电和散热的整块板卡,GPU 是板卡上的核心计算芯片;游戏只是它早期最出名的用途。

和相邻概念的区别可以这样看:

对比项CPUGPUNPU/TPU 等专用加速器
核心特点少而强,擅长复杂控制与串行逻辑多而简单,擅长规则的大规模并行为特定算子定制的计算单元
灵活性高较高,可编程相对较低
典型角色系统调度、数据预处理、控制流图形渲染、模型训练与推理端侧或云端特定推理加速

NPU(Neural Processing Unit,神经网络处理器)、TPU(Tensor Processing Unit,张量处理器)等专用芯片,把矩阵运算做得更专更省,但通用性和生态成熟度通常不如 GPU;实际系统里往往是 CPU 负责调度、GPU 负责重活、专用芯片负责特定环节。

对从业者,选 GPU 不能只看“算得快”,还要看显存容量与带宽、精度支持、并行方式和软件生态;模型太大装不下显存,再快也没用。对普通职场人,理解 GPU 有助于明白:AI 服务的成本很大一块来自这些芯片的算力与电力,端侧 AI 则受限于手机里的小型 GPU 或 NPU。具体型号与规格以厂商官方页面为准。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。