今天的 8 条快讯里,“开放权重”出现得最频繁:一边是研究者公开要求 Anthropic 表态,一边是 IBM CEO 说本地部署已经划算。另一条主线是“省钱”——把 AI 词典:KV Cache">KV Cache 削减 99%、用 MXFP4 训练 MoE、从苹果芯片里挖掘带宽,都是围绕成本下功夫。再加上苹果 AI 硬件的走向和数学家对“AI暴力解题”的批评,这一天的技术味和价值观争论都不少。
大事件
一封致 Dario Amodei 的公开信:若当真,就开放权重
有人写了封公开信给 Anthropic 的 CEO,核心意思是:你既然说要认真对待风险和 openness(开放),那就把权重开放出来。人话点评:这是开源阵营在逼对方明确表态——要么承认闭源是商业选择,要么就别拿“安全”当理由,接下来就看 Anthropic 怎么回应。
IBM CEO 称开放权重模型在本地部署上已具吸引力
IBM CEO 公开表示,开放权重模型放在本地部署这件事,现在已经有真正的吸引力了。人话点评:这句话从一家卖企业级服务的老牌公司嘴里说出来,比开源社区喊一百遍都管用——意味着银行、政府、制造业这些“数据不能出门”的客户,终于有了能实际使用的方案。
陶哲轩、邓煜为何反对“AI暴力解题”
两位数学家的态度很明确:不反对 AI 参与数学研究,反对的是把“大量暴力搜索出答案”当成数学。人话点评:对从业者是个提醒——模型能给出正确答案,不代表它“懂”了;对普通人则是个好消息,数学的门槛不会因为算力变大就自动降低。
模型与开源
MiniMax M3.1 Flash 现身 Product Hunt
MiniMax 的新模型 M3.1 Flash 出现在了 Product Hunt 上,走的还是“Flash”这条轻快路线。人话点评:从“发论文”到“上 Product Hunt”,说明国内模型厂商现在把获客渠道也当成发布渠道,普通用户能更快直接上手试用。
KV Cache 减少 99%,港科、CMU 与岩山科技开源新模型
香港科技大学、CMU 和岩山科技联合开源了新模型,亮点是把 KV Cache 压缩了 99%。人话点评:KV Cache 是长上下文推理中最消耗显存的部分,减少 99% 意味着同样的显卡能支撑更长的文档、更多的并发——对做应用的人来说,这是直接减少成本的改进。
MXFP4 训练 MoE 大模型:如何缩小与 BF16 的差距
有工作专门讨论用 MXFP4 这种低精度格式训练 MoE 大模型时,怎么把效果差距拉到接近 BF16。人话点评:推理省算力已经是共识,训练端能不能也省才是更大的成本项;这类“差距怎么补”的工程细节,往往比模型榜单更能决定谁能负担得起训练。
产品与硬件
Apple Watch 被列为苹果最新 AI 硬件
在苹果的 AI 硬件版图里,Apple Watch 被列了进去。人话点评:大家聊 AI 硬件总盯着眼镜和别针,但手腕上这块屏有传感器、有全天佩戴、有支付和健康数据——如果苹果真要做端侧 AI,Watch 可能是最现成的入口。
开发者称从苹果神经引擎处找回 50 GB/s 带宽
有开发者表示,自己从苹果神经引擎里“找回”了 50 GB/s 的带宽。人话点评:这类挖掘硬件潜力的技巧,短期看是极客的乐趣,长期看决定了端侧模型能跑多大——苹果芯片的真实上限,可能比官方文档写的要高。
小结
把今天这几条放在一起看,会发现一个挺清晰的趋势:大家不再只比“谁的模型更强”,而是开始比“谁能把同样的东西做得更便宜、更能在本地跑”。开放权重是这条路上的策略选择,KV Cache 压缩和低精度训练是具体手段,而苹果在手表和神经引擎上的动作,则是在争夺“端侧”这个最后的战场。至于数学家们的提醒,算是给这场效率竞赛留了一句冷静的备注:算得快、算得省,和真正理解,仍然是两件事。
