据量子位报道，智谱发布新模型，其推理速度达到 490 tokens/s。这一数字出现在该模型的公开信息中，成为本次发布最受关注的指标之一。
tokens/s（每秒生成 token 数）是衡量大模型推理效率的核心指标，直接关系到单位时间内可处理的请求量、用户侧的等待时间，以及在给定算力预算下能支撑的并发规模。对 API 服务商而言，吞吐量决定单卡或单机集群的服务能力，进而影响单位 token 的成本；对终端用户而言，它决定了长文生成、多轮对话是否出现明显卡顿。近一年来，随着智能体（Agent）类应用兴起，一次任务往往需要模型进行数十次甚至上百次调用，推理速度对整体完成时间和调用成本的影响被进一步放大，因此"更快"不再只是体验问题，而是能否跑通某些应用场景的前提。
需要注意的是，tokens/s 通常与测试口径强相关：硬件配置、单卡还是多卡、并发批量大小、输入与输出长度、是否启用投机解码或量化等技术，都会显著改变测得数值。因此 490 tokens/s 这一数字在横向对比其他模型时，仍需结合具体的测试条件与官方说明来理解，不宜直接与其他口径不同的数据做简单比较。
对于 AI 从业者来说，值得关注的后续信息包括：该模型的参数规模与上下文长度、开放方式（开源权重还是仅 API）、定价策略，以及在真实业务负载下的稳定性表现。推理效率的提升能否转化为可感知的成本下降，还要看这些配套信息是否同步到位。