跳到主内容
快讯直播
AI智模界
AI 词典

适配器路由:让每个任务找对专家

一句话定义:适配器路由(Adapter Routing)是在推理时根据输入的任务或领域,自动挑出对应的适配器(adapter)来参与计算,而不是把所有能力都挤进同一份模型权重里。

先说说适配器是什么。微调大模型很贵,于是有了「适配器」这种小模块:冻结原来的基座模型,只在层间插入一小块可训练参数,训练成本低、体量小,还能一个基座挂很多份。问题是,挂多了就得有人决定「这次用哪份」,这就是路由。

打个比方:公司请了一位通才顾问(基座模型),法务、财务、医疗各有一本业务手册(适配器)。前台先判断来的是什么问题,再把对应手册递过去。顾问还是同一个人,拿不同的册子,回答的重点和口吻就变了。

路由怎么判断?常见几种做法:

  • 显式选择:用户在界面里选「法务模式」,最简单也最可靠。
  • 分类器路由:训练一个小模型,输入问题后输出该走哪个适配器。
  • 相似度路由:把输入做嵌入,看它离哪个适配器的代表向量最近。
  • 软路由:不选一个,而是按权重同时混合多个适配器,类似小范围集成。

和几个容易混的概念比一比:

概念能力放在哪何时决定
全量微调同一份权重训练时固化
适配器路由多个独立小模块每次请求动态选
混合专家(MoE)模型内部专家每个 token 选专家
提示词路由输入文本每次请求
RAG上下文内容每次请求

关键差别是:MoE 的专家通常一起训练、对外不可见;适配器路由的适配器可以各自独立训练、单独上线和下线,是「热插拔」的。提示词路由改的是喂进去的文字,适配器路由改的是模型参数本身,两者可以叠加使用。

对从业者来说,这套机制的价值在于解耦:不同客户、不同领域各维护一个小适配器,迭代互不干扰,出错也容易回滚。要留意的坑有两个——路由本身的准确率,选错适配器可能比不选还糟;以及多适配器同时驻留带来的显存和吞吐压力。具体支持方式以各家框架的官方文档为准。

对普通人来说,它解释了为什么同一个 AI 应用里,问报销和问病情时的语气、格式、严谨程度可以完全不同。它的思路也很朴素:不造一个全能模型,而是把路由做薄、把专家做小,让合适的能力在最合适的时候出场。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。