跳到主内容
快讯直播
AI智模界
论文

arXiv 论文提出 Cache-to-Cache:模型间绕过文本直接传语义

arXiv 上新收录一篇题为《Cache-to-Cache: Direct Semantic Communication Between LLMs》的论文(编号 2510.03215,2025 年,归类为论文)。从标题看,其核心主张是让大语言模型之间不经过自然语言这一中间层,而是通过缓存(cache)直接完成语义层面的通信。

为什么重要:当前多模型、多智能体协作的主流做法,是把一个模型的输出解码为文本 token,再由另一个模型重新编码理解。这种"编码—解码—再编码"的过程既额外消耗 token 与算力,也会在往返转换中损失信息,尤其是那些难以用自然语言精确表述的内部表征。若模型间通信能直接在缓存或内部表示层面完成,多模型系统的设计范式可能随之改变:协作不再必然依赖可读文本,通信开销与语义保真度都将被重新审视。

仍待回答:标题并未透露具体机制。这里所说的 cache 是推理时的 KV 缓存,还是其他形式的中间状态;通信是单向还是双向;是否需要模型结构一致或表征空间对齐;能否在异构模型(不同厂商、不同规模、不同分词器)之间成立——这些都要等正文给出答案。

若该方法被验证可行,多模型系统的接口层可能从"文本协议"转向"表征协议",推理框架中的缓存管理、跨模型部署与安全审计都会受到影响。论文的具体方法与实验结论,仍需查阅原文核实。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。