量子位刊发《Agent 时代,CPU 的价值该重估了》一文,归类于芯片话题。标题提出的判断值得注意:当算力讨论的重心从模型训练转向以 Agent 为代表的推理与执行形态时,CPU 在系统中的位置需要被重新审视。
过去数年的算力叙事中,GPU 始终占据中心。大模型训练与单次前向推理的负载高度规整,适合大规模并行,GPU 的吞吐优势因此被反复放大。Agent 的工作方式不同:它把任务拆解为多轮循环,需要调用外部工具、读写文件与数据库、在沙箱中执行代码、维护长上下文与中间状态,并在多个子任务之间完成调度与并发。这些环节单次计算量未必大,却分散、频繁、对延迟敏感,且大量涉及控制流、分支判断、序列化与 I/O。
这类负载的特征,恰好落在 CPU 擅长的区间:单核性能、缓存层次、内存带宽与核数,以及与外设、网络交互的效率。若 Agent 成为主要应用形态,系统瓶颈可能从“算得够不够快”转向“调度得够不够顺”,服务器中 CPU 与 GPU 的配比、内存与存储规格、实例形态设计也随之需要调整。
对从业者而言,现实含义在于:评估 Agent 系统的成本与性能时,仅看加速卡的峰值指标可能失真,端到端循环效率、并发密度与资源配比同样关键。CPU 的价值究竟被低估到什么程度,仍需具体的负载测量与成本数据支撑,而非停留在直觉层面。
