虚拟地址是程序看到的世界,物理地址是内存条上真实的位置。TLB(Translation Lookaside Buffer,地址翻译后备缓冲)是 CPU 内部一张很小的表,专门缓存“最近用过的虚拟页 → 物理页”的翻译结果,让绝大多数访存不必再去查页表。
为什么需要它
程序里每个变量地址都是虚拟地址,CPU 每次读写内存都得先翻译成物理地址。翻译规则存放在内存中的页表(page table)里,现代系统通常是四到五级的多级页表:查完一级再查一级,一次翻译可能要多读好几次内存,而程序本来只是想取一个字节。
这就像去图书馆借书:馆员每次都从总目录查到分区目录,再查到书架目录,最后才走到书架前,借一本书要跑四趟。TLB 就是馆员手边那张便签:最近查过的索书号对应哪个书架,随手记一笔,下次遇到相同或相邻的地址,看一眼便签就能直接去取。因为程序访问有局部性(刚用过的地址附近很可能马上再用),这张便签的命中率通常很高。
为什么大页能减少 TLB miss
关键在于“一条 TLB 条目管多大一片内存”。便签张数由硬件固定,只有几十到几千条,每条便签只对应一个页(page)。传统页是 4KB,那么 1024 条便签最多只能覆盖 4MB 内存。程序一旦跑出这个范围——比如训练时动辄几百 MB 的参数张量、逐 token 扫描的 KV cache——便签就不够用,旧条目被挤掉,回头再访问又 miss,这就是 TLB 抖动(thrashing)。
大页(huge page,常见 2MB、1GB 等规格,具体以平台官方文档为准)把一条便签能管的内存放大几百倍。同样是 1024 条,覆盖范围从 4MB 变成 GB 级别,miss 自然少了。省下的不只是查表那几次内存访问,还有后面的流水线停顿。
和相邻概念的区别
| 概念 | 缓存的是什么 | 位置 | miss 的代价 |
|---|---|---|---|
| TLB | 虚拟页到物理页的映射 | CPU 内 | 走页表遍历(page walk),几次内存访问 |
| L1/L2/L3 缓存 | 真正的数据与指令 | CPU 内或旁边 | 去下一级缓存或内存取数 |
| 页表 | 全量映射关系 | 内存中 | 它本身就是被查的对象 |
还要区分:TLB miss 不等于缺页(page fault)。前者是“翻译结果没缓存”,后者是“这一页压根不在物理内存里,得从磁盘换进来”,两者代价差着数量级。
对你意味着什么
做 AI 系统的人:大块内存访问、多进程加载权重、mmap 读模型文件,都可能撞上 TLB 容量。开透明大页(THP)、用大页池、让热点访问更连续,是常见手段;反过来,内存碎片严重时大页根本分配不出来,收益会打折。
普通职场人:同一份代码小数据上飞快、上规模就“莫名其妙”变慢,有时不是算法复杂度的问题,而是缓存(包括 TLB)装不下工作集。看到大页、THP、page walk 这些词,知道它们讲的是同一件事就够了。
