跳到主内容
快讯直播
AI智模界
模型

只动 0.016% 参数,Qwen 数学成绩大涨

据爱范儿报道,一项以 GPT-6 Astra 为名的改造方案把目标对准了 Qwen 模型:只改动约 0.016% 的参数,数学相关成绩便出现明显上涨。报道用“爆改 Qwen 大脑”来形容这次改动,强调改动比例之小与效果反差之大。

对 AI 从业者来说,这条消息的看点主要在于“参数高效干预”的杠杆率,而不只是“又一个榜单分数”。如果 0.016% 的参数改动就能带来数学能力的显著变化,那就说明模型的部分推理能力可能集中在少数关键参数或特定通路上,针对某一能力做定向增强的成本,也可能远低于全量再训练。对开源模型的下游适配、垂直场景增强,以及“小改动换大收益”的工程路线,这都有参考价值。

同时也要注意信息边界。目前公开内容仍停留在报道层面,具体评测集、基线版本、改动位置的选取方式以及对比方法,摘要中都没有展开;0.016% 的统计口径,也就是占全部参数还是某一模块,也需要回到原文确认。数学成绩“疯涨”的具体幅度与可复现性,仍有待更完整的技术细节和第三方验证。

对关注模型能力改造的团队而言,这条线索值得继续跟进:小比例参数干预能否迁移到代码、逻辑等相邻能力,以及它在提升数学表现的同时,是否会带来其他能力的回退。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。