跳到主内容
快讯直播
AI智模界
AI 词典

TLB:CPU 手里那张地址翻译小便签

虚拟地址是程序看到的世界,物理地址是内存条上真实的位置。TLB(Translation Lookaside Buffer,地址翻译后备缓冲)是 CPU 内部一张很小的表,专门缓存“最近用过的虚拟页 → 物理页”的翻译结果,让绝大多数访存不必再去查页表。

为什么需要它

程序里每个变量地址都是虚拟地址,CPU 每次读写内存都得先翻译成物理地址。翻译规则存放在内存中的页表(page table)里,现代系统通常是四到五级的多级页表:查完一级再查一级,一次翻译可能要多读好几次内存,而程序本来只是想取一个字节。

这就像去图书馆借书:馆员每次都从总目录查到分区目录,再查到书架目录,最后才走到书架前,借一本书要跑四趟。TLB 就是馆员手边那张便签:最近查过的索书号对应哪个书架,随手记一笔,下次遇到相同或相邻的地址,看一眼便签就能直接去取。因为程序访问有局部性(刚用过的地址附近很可能马上再用),这张便签的命中率通常很高。

为什么大页能减少 TLB miss

关键在于“一条 TLB 条目管多大一片内存”。便签张数由硬件固定,只有几十到几千条,每条便签只对应一个页(page)。传统页是 4KB,那么 1024 条便签最多只能覆盖 4MB 内存。程序一旦跑出这个范围——比如训练时动辄几百 MB 的参数张量、逐 token 扫描的 KV cache——便签就不够用,旧条目被挤掉,回头再访问又 miss,这就是 TLB 抖动(thrashing)。

大页(huge page,常见 2MB、1GB 等规格,具体以平台官方文档为准)把一条便签能管的内存放大几百倍。同样是 1024 条,覆盖范围从 4MB 变成 GB 级别,miss 自然少了。省下的不只是查表那几次内存访问,还有后面的流水线停顿。

和相邻概念的区别

概念缓存的是什么位置miss 的代价
TLB虚拟页到物理页的映射CPU 内走页表遍历(page walk),几次内存访问
L1/L2/L3 缓存真正的数据与指令CPU 内或旁边去下一级缓存或内存取数
页表全量映射关系内存中它本身就是被查的对象

还要区分:TLB miss 不等于缺页(page fault)。前者是“翻译结果没缓存”,后者是“这一页压根不在物理内存里,得从磁盘换进来”,两者代价差着数量级。

对你意味着什么

做 AI 系统的人:大块内存访问、多进程加载权重、mmap 读模型文件,都可能撞上 TLB 容量。开透明大页(THP)、用大页池、让热点访问更连续,是常见手段;反过来,内存碎片严重时大页根本分配不出来,收益会打折。

普通职场人:同一份代码小数据上飞快、上规模就“莫名其妙”变慢,有时不是算法复杂度的问题,而是缓存(包括 TLB)装不下工作集。看到大页、THP、page walk 这些词,知道它们讲的是同一件事就够了。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。