跳到主内容
快讯直播
AI智模界
AI 词典

CXL:让 CPU、GPU 和内存池共享内存

CXL(Compute Express Link)是一套开放的高速互连标准,目标是让 CPU、GPU、加速器和内存设备像访问本地内存一样共享同一份数据,并由硬件维护缓存一致性(cache coherency)。

打个比方

传统服务器像一排独立办公室,每个人有自己的文件柜,也就是本地内存。要合作写一份方案,得把文件复印一份递过去,这就是数据拷贝。GPU 想用 CPU 手里的数据,通常要先通过直接内存访问(DMA)搬进显存;改完之后,还得再搬回来。文件越大、改动越频繁,拷贝和同步就越费时间。

CXL 更像把文件柜换成一个带智能标签的共享仓库:CPU 和 GPU 都能直接伸手存取同一份文件,谁改了哪一页,其他人的便签会自动更新。技术上,CXL 跑在 PCIe(Peripheral Component Interconnect Express)的物理层上,但额外定义了三套“语言”:CXL.io 负责设备发现和常规 I/O;CXL.cache 让设备能缓存主机内存;CXL.mem 让主机把设备上的内存当成自己的内存来用。后续版本还把交换、内存池化(memory pooling)和多主机共享纳入进来,让内存可以按需分配,而不是死焊在某一台机器上。

和相邻概念的区别

概念主要解决的问题与 CXL 的关系
PCIe通用 I/O 互连,设备通过 DMA 搬数据CXL 复用其物理层,但增加了缓存一致性和内存语义
NVLinkNVIDIA 生态内 GPU 间高速互连带宽高但偏同厂商封闭生态;CXL 是开放标准,面向 CPU 内存语义
NUMACPU 多插槽下本地、远程内存延迟不同CXL 内存池也会呈现类似层次,但可更灵活地组合和分配
RDMA跨网络远程访问内存需要显式编程,不维护缓存一致性;CXL 距离更近,语义更接近本地内存

对从业者和普通人的意义

做大模型推理时,KV cache、检查点和 embedding 表经常把单机内存撑爆。CXL 内存池能让多台机器按需借用闲置内存,减少“有的机器内存空着、有的机器爆内存”的浪费。CPU 和 GPU 共享数据时,少了反复拷贝和同步,数据预处理、图计算等场景会更顺。

对普通职场人,这项技术不会直接出现在你面前,但它影响云上实例的配置灵活性和成本结构。内存若能像云盘一样被池化调度,云厂商的整体利用率会提高,长期看可能让大内存任务更便宜。不过延迟表现、软件生态和平台支持仍在演进,具体规格以 CXL 联盟和厂商官方页面为准。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。