跳到主内容
快讯直播
AI智模界
AI 词典

IOPS 与吞吐:小文件看次数,大文件看 MB

一句话定义:IOPS(Input/Output Operations Per Second)是存储每秒能完成多少次读写“动作”;吞吐(Throughput,也叫带宽 Bandwidth)是每秒能搬走多少数据,单位通常是 MB/s 或 GB/s。前者数“次数”,后者量“体积”。

打个比方:把存储想成一个仓库。IOPS 是搬运工每分钟能跑几趟,吞吐是这些趟数加起来一共搬走多少货。如果每趟只拎一个小信封(小文件),决定效率的就是“跑多少趟”;如果每趟推一辆平板车(大文件),决定效率的就是“车能装多少”。两者由一个朴素的公式连着:

> 吞吐 ≈ IOPS × 单次 I/O 的大小

所以同一块盘,读 4KB 小块和读 1MB 大块,测出来的“能力”完全不是一个数量级。这也是为什么拿 IOPS 去比较两个跑不同块大小的测试结果,毫无意义。

指标单位什么时候是瓶颈典型场景
IOPS次/秒小文件、随机读写数据库事务、向量库检索、加载海量小文件、容器镜像启动
吞吐MB/s大文件、顺序读写读训练数据分片、写 checkpoint、备份、视频转码
延迟毫秒/微秒单次请求的等待在线推理的尾延迟、交互式查询

顺带说清第三个常被混进来的概念:延迟(Latency)是“一次请求多久返回”。IOPS 高不代表延迟低——靠并发堆出来的高 IOPS,单次延迟可能很难看。在线服务看延迟,离线批处理看吞吐,别互相替代。

对从业者的实际意义:采购或选型前,先问一句“我的 I/O 长什么样”。训练任务读的是几百 MB 的 shard 和 parquet 文件,属于顺序大块,盯吞吐;推理服务冷启动要拉起几万个小文件、向量库做随机小读,盯 IOPS。搞反了就会买错盘:拿一块只标榜高 IOPS 的小容量盘去喂数据加载,训练照样卡在带宽上;反过来为了“大带宽”买大块顺序优化的盘去扛高并发小请求,也会难受。云厂商通常会把云盘分成偏 IOPS 和偏吞吐的规格,参数以官方页面为准。

落地时别只看厂商标称值,用 iostat、fio 这类工具在自己的块大小和并发下实测一遍,看清 IOPS、吞吐、延迟三者的关系,再决定往哪个方向加钱。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。