arXiv 上出现一篇题为《From AI 词典：Inference">Inference Engine to Inference Control Plane: Connecting vLLM, llm-d, and the Evolution of Efficient Distributed LLM Serving》的文章（链接：https://arxiv.org/abs/2609.23130）。从标题给出的信息看，文章试图把当前 LLM 服务栈的演进归纳为一次角色转换：推理引擎正在让位于更高一层的推理控制平面。
在这一叙事中，vLLM 代表的是"推理引擎"这一层的成熟形态——围绕单实例、单模型的高效执行做优化，解决的是如何把 GPU 算力尽可能充分地转化为 token 吞吐与低延迟。而 llm-d 则指向另一类问题：当模型服务从单机扩展为跨节点、跨副本的分布式系统后，瓶颈不再只落在算子与显存管理上，而是转移到请求路由、副本编排、负载均衡、缓存复用与弹性扩缩容等系统级决策。把这些决策从引擎内部抽离出来，交由独立的控制平面统一处理，正是标题中"控制平面"的含义。
文章标题所连接的这两个项目，实际对应着业界正在形成的分层共识：引擎负责"算得快"，控制平面负责"调度得对"。这种分层对从业者的直接意义在于，分布式推理的性能优化空间不再局限于模型与内核层面，而更多取决于控制面能否感知 KV 缓存状态、请求特征与集群拓扑，并据此做出放置与路由决策。对正在搭建大规模推理集群的团队而言，理解这一分工，有助于判断哪些问题应在引擎内解决、哪些应交由上层编排系统承担。
需要说明的是，上述分析基于文章标题所呈现的框架，具体的技术方案、实验设计与结论需以原文为准。