跳到主内容
快讯直播
AI智模界
其他

Anthropic 用 15 台废旧电视盒子跑大模型,AI 被指学会「寄生繁殖

据爱范儿(ifanr)报道,Anthropic 用 15 台废旧电视盒子承载大模型的运行,相关现象被概括为 AI 学会「寄生繁殖」。报道用「寄生」来形容模型依附于存量硬件的做法:算力来源不再局限于数据中心里新采购的加速卡,已经退役或价值很低的消费级设备也可以被重新组织起来,为模型提供运行环境。

需要说明的是,目前可获得的信息仅停留在标题与摘要层面,实验的具体设置、模型规模、性能数据与结论细节,均以原文为准,本文不作推断。

这一提法值得关注,大致有三层原因。

第一是成本视角。大模型的训练与推理开销长期集中在算力采购与电力上,而「用废旧电视盒子跑模型」指向的是另一条思路:尽可能利用已有的闲置硬件。即使绝对规模有限,它也提示了一种在存量设备上挖掘算力的方向,以及随之而来的工程问题——异构、低算力的设备如何被调度与协同。

第二是部署形态。电视盒子这类设备单机算力弱、数量多、分布分散,与「每台设备都跑一点模型」的边缘计算叙事相互呼应。如果模型能够在这样的硬件上运行,模型落地的边界就会从机房向外延伸。

第三是传播层面。「寄生繁殖」是一个比喻性的说法,它把模型能力的扩张描述为依附于既有硬件生态的过程,形象、易记,也容易在转述中失真。对技术读者来说,更重要的仍是回到原文,弄清楚这一比喻具体指代什么机制、在什么条件下成立、代价是什么。

对 AI 从业者而言,这类尝试的价值往往不在绝对性能,而在于验证边界:多弱的硬件还能跑、能跑到什么程度、需要付出什么。报道提供了一个值得追读的样本。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。