上下文分类
上下文切换是指CPU的控制权由运行任务转移到另外一个就绪任务时所发生的事件。
- 高并发,低耗时的情况,上下文切换本来就多,并且高并发就意味着CPU是处于繁忙状态的, 增加更多地线程也不会让线程得到执行时间片, 反而会增加线程切换的开销。
- 低并发,高耗时,保证有空闲线程或者增加线程数目,接收新任务,可以减少线程切换。
让步式上下文切换
指执行线程主动释放CPU,与锁竞争严重程度成正比(锁竞争严重,释放多),可通过减少锁竞争来避免。抢占式上下文切换
后者是指线程因分配的时间片用尽而被迫放弃CPU或者被其他优先级更高的线程所抢占,一般由于线程数大于CPU可用核心数引起,可通过调整线程数,适当减少线程数来避免。线程池
关键点
- 尽量减少线程切换和管理的开支:要求线程数尽量少,这样可以减少线程切换和管理的开支。
- 最大化利用CPU:要求尽量多的线程,以保证CPU资源最大化的利用。
对于耗时短的任务
要求线程尽量少,如果线程太多,有可能出现线程切换和管理的时间,大于任务执行的时间,那效率就低了。对于耗时长的任务
要分是CPU任务,还是io等类型的任务。如果是CPU类型的任务,线程数不宜太多;但是如果是io类型的任务,线程多一些更好,可以更充分利用cpu。三种情况
高并发,低耗时
建议少线程,只要满足并发即可(充分利用CPU);例如并发100,线程池可能设置为10就可以。低并发,高耗时
建议多线程,保证有空闲线程,接受新的任务;例如并发10,线程池可能就要设置为20。高并发高耗时
- 要分析任务类型(CPU型,io型,任务时间)。
- 增加排队。
- 加大线程数。