系统中大量使用线程池,有必要对线程池进行监控。 可以监控如下指标: 可以检测到正在执行的线程数。 可以检测任务队列堆积任务数。 可以检测活动线程数。 可以检测最大线程数。 ? 具体如下: queue.size:获取线程池任务队列数量。 taskCount:线程池需要执行的任务数量。 completedTaskCount:线程池在运行过程中已完成的任务数量。 largestPoolSize:线程池曾经创建过的最大线程数量。通过这个数据可以知道线程池是否满过。如等于线程池的最大大小,则表示线程池曾经满了。 getPoolSize:线程池的线程数量。 通过扩展线程池进行监控,通过继承线程池并重写线程池的beforeExecute,afterExecute和terminated方法,我们可以在任务执行前,执行后和线程池关闭前干一些事情。 如监控任务的平均执行时间,最大执行时间和最小执行时间等。 这几个方法在线程池里是空方法。
线程池配置核心业务线程池和非核心业务线程池 核心业务的线程不够用 可以停掉非核心业务占用的线程 application.properties #线程池配置 gmall.pool.coreSize=8 java.util.concurrent.TimeUnit; /** * @author: xiepanpan * @Date: 2020/2/27 * @Description: 配置当前系统的线程池信息 商品的属性数据 300ms new Thread(()->{ log.info("查属性信息"); }).start(); //3、 //高并发系统的优化 //1、加缓存 //2、开异步 return null; } } 监控线程池: package com.xiepanpan.gmall.portal.controller java.util.concurrent.ThreadPoolExecutor; /** * @author: xiepanpan * @Date: 2020/2/28 * @Description: 监控线程池
最近我们组杨青同学遇到一个使用线程池不当的问题:异步处理的线程池线程将主线程hang住了,分析代码发现是线程池的拒绝策略设置得不合理,设置为CallerRunsPolicy。 从这个问题中,我们学到了两点: 线程池的使用,需要充分分析业务场景后作出选择,必要的情况下需要自定义线程池; 线程池的运行状况,也需要监控 关于线程池的监控,我参考了《Java编程的艺术》中提供的思路实现的 DEFAULT_QUEUE_SIZE; @Setter private int poolSize = DEFAULT_POOL_SIZE; /** * 用于周期性监控线程池的运行状态 ;(2)拒绝策略是将任务丢弃,但是需要记录错误日志;(3)使用一个调度线程池对业务线程池进行监控。 在查看监控日志的时候,看到下图所示的监控日志: ?
背景 业务使用线程池的时候,出现了问题,影响线上业务,由于没有线程池监控,导致问题难以发现和排查。于是需要这么一个线程池监控组件,用来监控线程池执行状态,任务执行状态等。 = 被监控的线程池1, 提交任务数+1 [ThreadPoolMonitor_0] INFO PoolMonitorTask - 线程池名称 = 被监控的线程池1, 活跃线程数峰值 = 0, 队列任务数峰值 - 线程池名称 = 被监控的线程池1, 任务排队时间 = 1, 任务执行时间 = 86 [ThreadPoolMonitor_0] INFO PoolMonitorTask - 线程池名称 = 被监控的线程池 , 提交任务数+1 [被监控的线程池2_0] INFO MonitoredThreadPoolExecutor - 线程池名称 = 被监控的线程池2, 任务排队时间 = 0, 任务执行时间 = 0 [被监控的线程池 = 3 [被监控的线程池2_0] INFO MonitoredThreadPoolExecutorTest - 增强afterExecute0 [被监控的线程池2_0] INFO MonitoredThreadPoolExecutorTest
2.3 监控线程池状态的线程 在一开始也普及过了线程池中相关的一些参数,通过下面这个监视线程能更加直观的了解这些参数 public class MonitorThread implements Runnable ,但是在线程池里面其实是看作一个任务,线程池会创建核心线程来执行这个任务(逻辑是这个线程里面的run()方法)。 可以看到有前后置执行策略,也有拒绝策略,以及线程池的相关状态等,接下来通过截图仔细看一下 ? 至于线程池的状态如下 ? 结语 java多线程中的线程池到这就告一段落啦,这些理论只是相对简单的,线程池的复杂是涉及到操作系统底层的了,是基本不可能预测到操作系统是要运行哪个线程的,写这些理论知识是在我们可控的层面尽可能多地去理解它 用下面这张图来做个总结叭,「你理想的线程池 vs 真正的线程池」 ? 图片来自网络,侵删
背景 在开发中,我们经常要使用Executors类创建线程池来执行大量的任务,使用线程池的并发特性提高系统的吞吐量。 但是,线程池使用不当也会使服务器资源枯竭,导致异常情况的发生,比如固定线程池的阻塞队列任务数量过多、缓存线程池创建的线程过多导致内存溢出、系统假死等问题。 因此,我们需要一种简单的监控方案来监控线程池的使用情况,比如完成任务数量、未完成任务数量、线程大小等信息。 ExecutorsUtil工具类 以下是我们开发的一个线程池工具类,该工具类扩展ThreadPoolExecutor实现了线程池监控功能,能实时将线程池使用信息打印到日志中,方便我们进行问题排查、系统调优 统计任务耗时、初始线程数、核心线程数、正在执行的任务数量、已完成任务数量、任务总数、队列里缓存的任务数量、池中存在的最大线程数、最大允许的线程数、线程空闲时间、线程池是否关闭、线程池是否终止信息 监控到的记录如下
简介 随着并发的增多,创建、销毁线程的动作也随之增多,所以资源的浪费也随之增多,并且线程的数量变大,管理的难度也会随之加大------于是线程池小伙伴就出来前言 线程池的几个好处 降低资源消耗。 线程是稀缺资源,如果无限制的创建,不仅会消耗系统资源,还会降低系统的稳定性,使用线程池可以进行统一的分配,调优和监控。 看到这些好处有点心动,但是我们不仅要知其然还要知其所以然 如何使用线程池? ,也叫核心线程池,一般活动的线程数量不会超过此参数的大小; maximumPoolSize:当前线程池允许创建的最大线程数; keepAliveTime:线程活动保持时间,当线程空闲下来时,控制线程存活的时间 shutdown和shutdownNow shutdown是将线程池的状态设置为shutdown状态,但是并不会停止正在工作的线程,shutdownNow将线程池的状态设置为stop状态,并且尝试停止正在执行任务的线程 线程池执行的原理 线程池流程分析 当线程池当中有新提交的任务时,判断流程如下: 基本线程池是否满了?
在使用slf4j的MDC做日志跟踪的时候,会因为MDC不能跨线程导致跟踪失败,此外,为了监控线上服务器的运行状态,也很有必要对线程池的运行情况进行监控。 下面是一个带有线程池监控且兼容MDC的线程池,建议使用! /** * A SLF4J MDC-compatible {@link ThreadPoolExecutor}. MDC.setContextMap(previous); } } }; } } 参考 如何在线程池中使用 线程池的五种状态 Java线程池监控小结
e.printStackTrace(); } })); } Thread.sleep(3000); // out => 等待线程 threadPoolExecutor.getQueue().size()); } 获取到堆积大小了,就可以通过打印日志的形式进行输出,也可以通过micrometer + prometheus + grafana进行完整的监控 ,可参考 通过micrometer实时监控线程池的各项指标 拓展: ThreadPoolExecutor支持其他数量监控,例如: ?
每一个线程默认会消耗1MB的内存。线程池通过分享和回收线程来削减这些开销,允许多线程被应用在一个非常颗粒级的级别而没有性能损失。当充分利用多核系统去执行密集型计算的并行代码时这是非常有用的。 线程池也会在线程的总数量上保持一个限制,从而使线程能够更平稳地运行。太多的线程将会造成管理负担和使CPU缓存是小,从而造成操作系统不能运行。一旦一个限制到达,job排队等待直到另外一个完成才开始。 当使用线程池时需要注意下面的事情: 你不能设置一个线程的名字,因为设置线程的名字将会使调试更困难(当你在VS线程窗口中调试时,即使你可以附加一个描述)。 Library中的Task类来轻松的进入线程池。 Task.Factory.StartNew会返回一个Task对象,你可以使用它去监控这个task,比如,你可以调用它的wait方法等待它直到它完成。
考虑到之前用micrometer + prometheus + grafana搭建过监控体系,于是考虑使用micrometer做一次主动的线程池度量数据采集,最终可以相对实时地展示在grafana的面板中 2、提供两个方法,分别使用线程池实例模拟短时间耗时的任务和长时间耗时的任务。 3、提供一个方法用于清空线程池实例中的任务队列。 F:thread_pool_queue_size,Legend:-线程池积压任务数。 最终效果 多调用几次例子中提供的几个接口,就能得到一个监控线程池呈现的图表: ? 小结 针对线程池ThreadPoolExecutor的各项数据进行监控,有利于及时发现使用线程池的接口的异常,如果想要快速恢复,最有效的途径是:清空线程池中任务队列中积压的任务。 像HTTP客户端的连接池如Apache-Http-Client或者OkHttp等的监控,可以用类似的方式实现,数据收集的时候可能由于加锁等原因会有少量的性能损耗,不过这些都是可以忽略的,如果真的怕有性能影响
,最左边3位表示线程池状态。 ,实现5种线程池状态(在左边3位之后加入中画线有助于理解) 11 //111-00000000000000000000000000000,十进制值:-563,870,912 12 //此状态便是线程池能够接受的新任务 39 private static int ctlOf(int rs, int wc) { return rs | wc; } 第一处说明,线程池状态用高3位表示,其中包括了符号位。 返回false 的可能如下: * 1.线程池没有处于RUNNING状态 * 2.线程工程创建新的任务线程失败 * @param firstTask 外部启动线程池时需要构造的第一个线程 corePoolSize : maximumPoolSize)) // 最大线程数不能超过2^29,否则影响左边3位的线程池状态值 return false;
1.线程池的好处。 线程使应用能够更加充分合理的协调利用cpu 、内存、网络、i/o等系统资源。 线程的创建需要开辟虚拟机栈,本地方法栈、程序计数器等线程私有的内存空间。 所以需要通过线程池协调多个线程,并实现类似主次线程隔离、定时执行、周期执行等任务。线程池的作用包括: 利用线程池管理并复用线程、控制最大并发数等。 实现任务线程队列缓存策略和拒绝机制。 隔离线程环境。比如,交易服务和搜索服务在同一台服务器上,分别开启两个线程池,交易线程的资源消耗明显要大;因此,通过配置独立的线程池,将较慢的交易服务与搜索服务隔开,避免个服务线程互相影响。 在了解线程池的基本作用后,我们学习一下线程池是如何创建线程的。 第3个参数:keepAliveTime 表示线程池中的线程空闲时间,当空闲时间达到KeepAliveTime 值时,线程被销毁,直到剩下corePoolSize 个线程为止,避免浪费内存和句柄资源。
文章目录 一、线程池作用 二、线程池种类 三、线程池工作机制 四、线程池任务调度源码解析 一、线程池作用 ---- 线程池作用 : ① 避免创建线程 : 避免每次使用线程时 , 都需要 创建线程对象 ; ---- 线程池种类 : ① newCachedThreadPool : 可缓存线程池 , 如果 线程池线程个数已满 , 回收空闲线程 , 如果没有空闲线程 , 此时会创建新线程 ; ② newFixedThreadPool , 非核心线程数就是 MaxSize - CoreSize ; 示例 : 最大线程数 ( MaxSize ) 是 8 个 , 有 3 个核心线程 ( CoreSize ) , 5 个非核心线程 , 任务拒绝后 , 处理善后 ; 四、线程池任务调度源码解析 ---- 在 AsyncTask.java 中 , 在静态代码块中 , 自己 自定义创建了线程池 , 没有使用上述四种线程池 ; 创建线程池时传入的参数 * 因此, 我们应该再次检查运行状态, 如果需要, 将任务放回队列中, 或者启动一个新线程. * * 3.
文章目录 一、线程池简介 二、线程池初始化方法简介 三、线程池使用示例 一、线程池简介 ---- 线程池一般是实现了 ExecutorService 接口的类 , 一般使用 ThreadPoolExecutor 3 , 非核心线程数 5 ; 线程池任务队列 : 当启动一个线程池后 , 线程池会不停地从该任务队列中取出任务执行 , 启动核心线程 : 如果当前核心线程没有满 , 小于 3 个 , 那么创建核心线程执行该任务 , 启动非核心线程 : 如果当前核心线程已经有 3 个 , 但是 非核心线程没有满 , 小于 5 个 , 那么会创建非核心线程 , 执行该任务 ; 执行者 Executor 执行任务处理 : 如果核心线程数 有 3 个 , 非核心线程数有 5 个 , 最大线程数已满 ; 如果用户再提交任务给线程池 , 就会 将任务放入线程池任务队列中排队 ; 如果此时任务队列也满了 , 此时就会 抛出异常 ; 开发者应该通过回调处理被拒绝的任务 ; 线程池从任务队列取出任务并执行 : 线程数量 C 线程数量 C < 3 : 创建核心线程执行任务 ; 线程数量 3 \leq C < 8
concurrent.futures --- 启动并行任务 — Python 3.7.13 文档concurrent.futures 模块提供异步执行可调用对象高层接口异步执行可以由 ThreadPoolExecutor 使用线程或由 **Executor**ThreadPoolExecutor 线程池```pythonimport concurrent.futuresimport urllib.requestURLS = ['http exc)) else: print('%r page is %d bytes' % (url, len(data)))```ProcessPoolExecutor 进程池使用进程池来实现异步执行调用 任何向池提交更多工作的尝试, initializer 都将引发一个异常,当前所有等待的工作都会引发一个 BrokenProcessPool。 : if n % 2 == 0: return False sqrt_n = int(math.floor(math.sqrt(n))) for i in range(3,
原理 在一个可执行程序内部存在多个线程和一个任务队列。如果任务队列里长时间没有任务,这些线程就会休眠,如果此时来了一个任务,那么线程就会被唤醒。 像这种,提前创建好线程,需要的时候直接使用,我们称之为线程池。这种本质上就是一个生产消费模型。 线程池实现 //ThreadPool.hpp #pragma once #include<iostream> #include<unistd.h> #include<string> #include< lg.Enable(SCREEN_TYPE);}while(0) #define EnableFile() do{lg.Enable(FILE_TYPE);}while(0) }; 携带日志的线程池设计 Task>(); tp->Init(); tp->Start(); int cnt=10; while (cnt) { // 不断地向线程池推送任务
int corePoolSize = 2; /* 核心线程池的最大线程数 */ int maxPoolSize = 4; /* 线程最大空闲时间 */ 不推荐使用Executors的静态方法创建线程池 !!! 第2节 ForkJoinPool ---- ForkJoin线程池处理无返回值任务。 初始化数组用时:1847192纳秒, 初始化数组总和:493016 线程池计算用时:4220889纳秒, 线程池执行结果:493016 ? 第3节 两种线程池的比较 ---- ThreadPoolExecutor——适用于IO密集型任务 1.HTTP 2.RPC 3.DB 4.Redis 5.MQ 6.ZK ForkJoinPool——
之前写过一篇 Java 线程池的使用介绍文章《线程池全面解析》,全面介绍了什么是线程池、线程池核心类、线程池工作流程、线程池分类、拒绝策略、及如何提交与关闭线程池等。 如果你想监控某一个线程池的执行状态,线程池执行类 ThreadPoolExecutor 也给出了相关的 API, 能实时获取线程池的当前活动线程数、正在排队中的线程数、已经执行完成的线程数、总线程数等。 总线程数 = 排队线程数 + 活动线程数 + 执行完成的线程数。 下面给出一个线程池使用示例,及教你获取线程池状态。 :" + taskCount); Thread.sleep(3000); } } 线程池提交了 100000 个任务,但同时只有 50 个线程在执行工作,我们每陋 3 秒来获取当前线程池的运行状态 ,最后输出: 当前排队线程数:0 当前活动线程数:0 执行完成线程数:100000 总线程数(排队线程数 + 活动线程数 + 执行完成线程数):100000 这样,你了解了这些 API 的使用方法,你想监控线程池的状态就非常方便了
线程池 作用: 增加了线程的复用,降低了系统的开销 原理: 每当一个新的任务要执行的时候,系统会创建一个新的线程去执行任务,直到池中的线程数达到了设置的核心线程数,此时当新的任务要执行的时候,如果线程池中有空闲的线程 如果无法将任务加入队列(比如使用的是有界队列),则创建新的线程,如果此时线程数大于等于了线程池预设的最大线程数,那么任务将被拒绝。 java.util.concurrent包对线程池的支持: ExecutorService ThreadPoolExecutor (ExecutorService的默认实现类) 1、单线程的线程池实现 Executors.newSingleThreadExecutor 2、固定大小的线程池实现 Executors.newFixedThreadPool 3、可缓存的线程池实现 Executors.newCachedThreadPool 4、可定时执行任务的无大小限制的线程池实现 Executors.newScheduleThreadPool