跳到主内容
快讯直播
AI智模界
AI 词典

MESI:多核 CPU 的缓存为什么不打架

MESI 是 CPU 硬件层面用来维护多核缓存一致性的协议,名字就是它定义的四种缓存行状态:Modified(已修改)、Exclusive(独占)、Shared(共享)、Invalid(无效)。

为什么需要它

每个 CPU 核都有自己的 L1/L2 缓存,它们共享同一块内存。核 A 把变量 x 读进自己的缓存,核 B 也读了一份。这时核 A 把 x 改成 1,核 B 手里那份就变成了过期数据:如果没人管,核 B 之后读 x 会读到旧值,程序就错了。MESI 的作用,就是给每条缓存行(cache line,缓存和内存之间搬运数据的最小单位,通常是 64 字节,具体以平台手册为准)打上一个状态标签,并规定所有核必须遵守的状态转换规则。

打个比方

几个人共用一块白板(内存),每人手里有一张便利贴抄了一份(缓存)。

  • 只有你手里有这张便利贴,而且内容和白板一致,这就是 E。你可以直接改,改完变成 M,不用跟任何人打招呼,因为没人有你这份。
  • 好几个人都抄了同一份,大家内容都一样,这就是 S。谁想改,必须先喊一嗓子“你们手上那份作废”,把别人的副本打成 I,才能动手。
  • M 是“我这份是最新的,白板上反而是旧的”。此时别人来读,不能去读白板,得找你要,你负责供数并写回。
  • I 就是“这张便利贴已经作废”,不能再拿来用,要用得重新去取。

四种状态各自在防一件事:

状态含义主要在防什么
M本核独占且已修改,与内存不一致防止别的核读到过期的内存值
E本核独占但干净,与内存一致防止“只有一个写者”时还要白广播一次
S多核共享,都是干净副本防止有人悄悄写,而其他人不知道
I无效,不可读防止读到已被别人改掉的数据

其中 E 是很容易被忽略的设计。如果只有 MSI 三态,那么一个核读完数据后只能进 S,等到要写时再广播一圈让所有人作废;但事实上从读到写之间根本没人碰过这块数据,那次广播纯属浪费。E 状态就是用来省掉这次广播的。

与相邻概念的区别

MESI 属于缓存一致性(cache coherence),管的是“同一个地址,所有核看到的值是否一致”。它常和内存一致性模型(memory consistency model,如 x86 的强序、ARM 的弱序)混为一谈,后者管的是“不同地址的读写在各个核看来是什么顺序”。前者靠硬件协议自动完成,后者才需要你在代码里写内存屏障(memory barrier)或使用原子操作。它也和 Raft、Paxos 这类分布式共识协议完全不是一回事:那些是跨网络、要容错、毫秒级的,MESI 是芯片内部、不容错、纳秒级的。

对写代码的人意味着什么

最直接的坑是伪共享(false sharing):两个线程各自累加自己的计数器,两个变量逻辑无关,却恰好落在同一条缓存行里,于是一个线程每次写都会把另一个核的副本打成 I,缓存行在两个核之间来回弹,性能掉得莫名其妙。解法是把热变量按缓存行对齐或填充。做数据并行训练、多线程数据预处理、推理服务多线程调度时,这类问题都真实存在。不过大多数上层代码不用直接操心,编译器、运行时和标准库已经替你处理了绝大部分;你要做的是别在同一缓存行里塞互相争抢的变量,以及在需要跨核顺序保证时老老实实用原子操作和屏障,而不是指望“我写了它就一定被看见”。

各家厂商还有 MOESI、MESIF 之类的扩展状态,细节以对应架构的官方文档为准。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。