一句话定义
Weight-Space Programming(权重空间编程)指把神经网络的参数(权重)当成可以直接读写的程序对象:手动构造、拼接、加减、编辑它来得到想要的行为,而不是靠喂数据、跑梯度下降“训练”出来。
打个比方
常规训练是熬高汤:把食材(数据)丢进锅里慢炖几小时,最后是什么味道取决于食材和火候,中途你很难插手。
权重空间编程则是打开几口已经熬好的汤:把 A 锅的鲜和 B 锅的辣按比例兑在一起;或者先算出“从清汤到辣汤”需要加的那一勺调料(在权重上就是两个模型的差值),再把它舀进第三口锅。全程不开火、不备料。
三种常见手法
- 拼接:把多个同源模型的权重做加权平均,得到一个各方面都不差的“融合体”,业界常叫 model soup。
- 相加减:用微调后的权重减掉基座权重,得到一根“任务向量”(task vector),它大致代表某个能力的方向;加它能力变强,减它能力变弱。多根向量叠加会符号冲突、互相冗余,于是又衍生出 TIES、DARE 这类改进。
- 生成与编辑:用一个小网络(hypernetwork)直接输出大网络的权重;或定位少数参数做局部修改,改掉某条事实知识。
和几个近邻的区别
| 主要动作 | 要不要数据 | 备注 | |
|---|---|---|---|
| 常规训练/微调 | 从数据反推权重 | 要 | 成本高,权重是结果 |
| 权重空间(weight space) | 无 | 无 | 只是“所有可能参数构成的高维空间”这个说法,不是方法 |
| 模型合并 | 对已训权重做线性组合 | 通常不要 | 权重空间编程最成熟的一个特例 |
| 权重空间编程 | 构造、编辑、稀疏化、拼接 | 多数不要 | 范围更大,模型合并算它的子集 |
这个老思路为什么被重新提起
早年就有人直接搜索权重(进化策略一类),但网络小、效果比不过梯度下降,于是沉寂。如今重新走红有现实原因:开源权重随手可得,素材不缺;微调大模型太贵,而权重层面的操作几乎不耗算力;数据常常拿不到或有合规顾虑,“不动数据、只动参数”成了少数入口;加上模型合并这类做法在实践中确实经常奏效。
对从业者意味着什么
版本管理会变样:过去发布“数据集 + 训练脚本”,以后可能更像软件,发布的是权重的 diff 和补丁包,能力像功能开关一样增减。
但要清醒:权重空间高度非线性,随手叠加经常互相干扰、性能下降。通常要求模型同源(同一基座、同类微调),拼完还要小样本验证,必要时补一点轻量训练修复。具体哪种方法在什么模型上有效差异很大,以原始论文和官方说明为准。
对普通人来说,直观的变化是:你用的模型可能不再是整包“重新训练的新版本”,而是在旧版上贴了几个能力补丁。
