跳到主内容
快讯直播
AI智模界
AI 词典

进化搜索:不靠梯度,靠变异加选择

一句话定义:进化搜索(Evolutionary Search)是一类不依赖梯度的优化方法——先造出一批候选方案,给它们打分,留下表现好的,让它们"变异""杂交"产生下一代,如此循环,让种群整体越变越好。

它模仿的是自然选择。想象你要在看不见地形的山谷里找最低点。梯度下降(Gradient Descent)像带着指南针下山:知道坡朝哪边斜,就朝哪边走。但很多问题根本没有"坡"可算——提示词、代码、芯片里元件的摆放位置,这些是离散的、拼装出来的东西,你没法求导。进化搜索换了个思路:撒一百个方案下去,各自跑一遍得个分数,把高分的留下当"父母",再让它们小幅改动(变异,mutation)、互相拼接(交叉,crossover),生成下一批。没有坡度信息,只有分数,但照样能往前走。

打个生活化的比方:改进菜谱。你不可能用微积分算出"盐该加几克",但你可以做十锅,请人试吃打分,留下最好吃的三锅,在它们的做法上分别微调(多放点糖、少炖五分钟),再各做一锅。几轮下来,味道会比一开始好很多。这里的试吃打分就是适应度函数(fitness function),一批菜就是种群(population),一轮就是一代(generation)。

它和相邻概念的区别:

方法需要梯度吗反馈形态典型适用
梯度下降需要,要求可微连续损失值神经网络权重
随机搜索不需要单点分数,不积累极简基线、小空间
进化搜索不需要整份方案的分数离散结构、代码、提示词、布局
强化学习通常不需要逐步奖励序列决策、控制

遗传算法(Genetic Algorithm)是进化搜索里最有名的一支,此外还有进化策略(Evolutionary Strategy)、遗传编程(Genetic Programming)等分支,核心都是"变异 + 选择"。和强化学习的关键差别在于:进化搜索通常只给整份方案一个总分,不关心中间每一步该得多少奖励,所以它特别适合"能评估、但过程难以拆解"的问题。

落到实际工作上,三个场景最典型。一是提示词优化:让模型生成一批提示词变体,拿测试用例自动打分,保留高分的,再让模型基于高分版本改写,迭代若干轮。二是代码搜索:把程序片段当作基因,能通过测试的留下,再改。三是芯片布局和排程:把元件的坐标、顺序编码成基因,用线长、功耗、时延估算打分,反复优化摆放。超参数搜索和神经网络结构搜索(Neural Architecture Search)也常借用它。

对从业者的意义:只要你能把任务写成一个"可自动打分"的函数,进化搜索就能用,哪怕问题不可导、目标是多目标权衡(快 vs 准)。代价是样本效率低——它靠大量评估换进步,评估一次要跑仿真或调模型时,预算很容易被烧光,所以要搭配早停、并行和候选去重。对普通人而言,它其实就是"试错、保留有效经验、在好版本上做小改动"的算法化版本,和团队做文案 A/B 测试、版本迭代的直觉是同一回事。具体工具的参数与用法,以官方页面为准。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。