一句话定义
线程池(Thread Pool)是预先创建一批线程放在“池子”里反复复用的机制。任务来了,就派一个空闲线程去执行;执行完,线程回到池子里等待下一个任务,而不是每个任务都新建一个线程再销毁。
打个比方:一家餐厅
把线程池想成一家餐厅:
- 核心线程(core pool size) 是正式服务员,客人再少也养着,随时能上工;
- 任务队列(work queue) 是门口的等位区,正式工都在忙,新客人先坐下等;
- 最大线程(max pool size) 是忙不过来时临时叫来的兼职;
- 拒绝策略(rejection policy) 是等位区坐满、兼职也全叫来了,门口只能挂个牌子:今天接不了了。
关键在于任务的“分流顺序”。一个新任务进来,通常是这样走的:核心线程有空 → 直接干;核心线程全忙 → 进队列排队;队列也满了 → 扩招到最大线程数;再满 → 触发拒绝策略。这条链路决定了系统的实际吞吐。
| 角色 | 对应参数 | 作用 | 设错的后果 |
|---|---|---|---|
| 正式工 | 核心线程数 | 常驻,扛日常流量 | 太小则常态排队,太大则闲时占资源 |
| 等位区 | 任务队列 | 缓冲突发流量 | 无界队列会让最大线程数形同虚设,任务无限堆积直到内存告急 |
| 兼职 | 最大线程数 | 峰值时临时扩容 | 设太大,上下文切换的开销吃掉并行收益 |
| 门卫 | 拒绝策略 | 撑不住时怎么办 | 静默丢弃会让任务凭空消失,最难排查 |
线程为什么不是越多越好
每个线程都要占内存(主要是栈空间),线程切换要保存和恢复上下文,而 CPU 核心数是固定的。线程数超过核心数之后,多出来的线程只是在抢同一批 CPU,切换开销反而让总吞吐下降。所以“加线程”在超过某个点后,效果是负的。
和相邻概念的区别
线程池常和“连接池”“消息队列”混为一谈。连接池池化的是数据库或网络连接这类昂贵资源,目的是省下建连时间;消息队列是把任务持久化、跨进程解耦、削峰填谷;线程池只在单个进程内复用执行单元,进程一挂任务就没了。另外,线程池是阻塞式并发的解法,协程(coroutine)或异步 I/O 走的是另一条路——用少量线程挂载大量任务,避免线程阻塞等待。
对从业者的实际意义
调线程池,本质是在调三个参数之间的配合,而不是只调大线程数:队列用有界还是无界、最大线程数留多少余量、拒绝策略选抛异常还是让提交任务的一方自己执行(后者能形成天然的反压,让上游慢下来)。在模型推理服务、批量调用 API、数据加载这类场景里,并发控制的思路是相通的:先想清楚“撑不住时怎么办”,再决定“能撑多少”。各语言和框架的默认值与实现细节不同,具体以官方文档为准。
