跳到主内容
快讯直播
AI智模界
AI 词典

缓存行:CPU 一次搬 64 字节,为什么顺序访问快得多

一句话定义:缓存行(Cache Line)是 CPU 与内存之间搬运数据的最小单位——你只要一个字节,它也会把包含这个字节的一整块(常见实现是 64 字节)一起搬进缓存。

一次搬一整块

CPU 的寄存器一次只能处理几个字节,但它和内存之间的通道是按“块”工作的。当你读取一个 4 字节的整数时,硬件实际做的事情是:从内存取出这个整数所在的整条缓存行,放进 L1/L2/L3 缓存,再从里面切出那 4 个字节给你。

打个比方:去图书馆借书,管理员不允许你只复印某一页,必须把整摞 64 页一起抱走。第一次取书当然贵,但接下来你要看这一摞里的其他页,就是免费的——书已经在桌上了。

这解释了一个经典现象:同样的运算量,顺序访问比跳着访问快得多。

  • 顺序扫描一个数组,每搬一次缓存行就能连续用掉里面的十几条数据,平均到每个元素上的搬运成本极低;硬件里的预取器(prefetcher)还能识别出“你下一步大概要往后走”,提前把下一行搬来。
  • 反过来,如果你按很大的步长跳跃访问,或者跟着指针链走(链表、树、哈希桶),几乎每次访问都落在不同的缓存行上,每次都要等一次新的搬运。CPU 算得再快,也只能干等着内存。

所以很多高性能代码会把链表换成连续数组,把“热”字段挪到一起,二维数组按行遍历而不是按列遍历——本质都是在讨好缓存行。

容易混的几个概念

概念是什么粒度(常见实现)
缓存行 Cache LineCPU 与内存之间搬运数据的最小单位64 字节
缓存 Cache多级存储层级本身(L1/L2/L3)KB 到 MB 级
内存页 Page虚拟内存映射与换页的单位4 KB

缓存是“仓库”,缓存行是“叉车的托盘”。页(Page)比缓存行大得多,管的是地址映射和换页,和搬运粒度不是一回事。具体某颗 CPU 的缓存行大小与层级结构,以厂商的处理器手册为准。

一个反直觉的坑:伪共享

缓存行还有副作用。两个线程分别修改同一个缓存行里的不同变量时,硬件并不知道它们互不相干,仍然要把这一整行在核心之间来回同步,性能反而比单线程还差。这叫伪共享(False Sharing),常见解法是给变量加填充(padding),让它们各自独占一行。

对从业者的意义

  • 写业务代码:数据结构紧凑、热数据相邻、遍历顺序与内存布局一致,往往比换算法更容易获得性能提升。
  • 做 AI/高性能计算:张量的内存布局(行优先还是列优先)、批处理的数据排布,直接决定内存带宽利用率;GPU 上对应的概念是合并访问(coalesced access)——同一组线程访问连续地址,才能合并成少数几次内存事务。
  • 普通职场人:程序“内存明明够却卡”,有时不是容量问题,而是访问模式问题。理解缓存行,你就有了排查这类问题的一个基本视角。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。