parallelStream/ForkJoinPool 详解
创始人
2024-02-17 00:59:13

parallelStream

parallelStream是一种并行流, 意为处理任务时并行处理。

parallelStream底层使用的是ForkJoinPoolForkJoinPool是一种工作窃取算法线程池,和分治法的概念一致,可以充分利用多 CPU 的优势,把一个任务拆分成多个"小任务", 把多个"小任务"放到多个处理器核心上并行执行; 当多个"小任务"执行完成之后, 再将这些执行结果合并起来

工作窃取算法线程池

前提是硬件支持, 如果单核 CPU, 只会存在并发处理, 而不会并行

核心概念

调用并行流的API

  1. stringList.parallelStream()
  2. stringList.stream().parallel()
  3. Stream.of(stringList).parallel()

虽然 API 的调用方式不同, 但是底层都是将AbstractPipeline中的parallel标识设置为true

public final S parallel() {sourceStage.parallel = true;return (S) this;
}

并行流parallerStream的底层都是使用同一个ForkJoinPool,而ForkJoinPool线程数默认为cpu的核心数-1

// 查看内核的可用核数
Runtime.getRuntime().availableProcessors()
// ForkJoinPool线程数
ForkJoinPool.commonPool().getParallelism()

修改默认的线程数量

System.setProperty("java.util.concurrent.ForkJoinPool.common.parallelism", "16");

不建议直接修改commonPool线程数,自行创建一个ForkJoinPool更优

注意点

  1. parallelStream线程不安全问题(加锁/使用线程安全的集合(如ConcurrentHashMap)/集合采用collect()/reduce()操作)
  2. parallelStream 适用的场景是计算密集型的,假如服务器CPU的负载很大,那并不能起到并行计算的作用(尽量不要在paralelSreram操作中使用IO流)
  3. 不要在多线程中使用parallelStream,原因同上,当线程都在争抢CPU时不但没有提升效果,反而还会加大线程切换的开销

ForkJoinPool

工作窃取算法线程池

  1. ForkJoinPool的每个ForkJoinWorkerThread下都维护着一个工作队列(WorkQueue),这是一个双端队列,里面存放的对象是任务ForkJoinTask
  2. ForkJoinWorkerThread在运行中产生新的任务(通常是因为调用了fork())时,会放入工作队列的队尾,并且会在队尾取出任务(LIFO)
  3. ForkJoinWorkerThread在处理自己的工作队列同时,会尝试窃取steal一个任务(来自于刚刚提交到 pool的任务,或是来自于其他工作线程的工作队列),窃取的任务位于其他线程的工作队列的队首(FIFO)
  4. 在遇到join()时,如果需要join的任务尚未完成,则会先处理其他任务,直到目标的任务方法被告知已经结束(isDone()),所有的任务都是无阻塞的完成

自定义ForkJoinPool并行流

public void mission() {try {List idList = Lists.newArrayList(1L, 2L, 3L);ForkJoinPool pool = new ForkJoinPool(20);pool.submit(() -> {idList.parallelStream().forEach(uid -> {//do something});});// 等待任务执行完毕pool.awaitTermination(2, TimeUnit.SECONDS);log.info("mission done");} catch (InterruptedException e) {}

若需要等待所有任务执行完毕,可使用下述方式

  1. ForkJoinPool#awaitTermination()
  2. 显式submit任务,使用ForkJoinTask#get()阻塞
  3. CountDownLatch
public void mission() {try {List idList = Lists.newArrayList(1L, 2L, 3L);CountDownLatch countDownLatch = new CountDownLatch(1);ForkJoinPool pool = new ForkJoinPool(20);pool.submit(() -> {idList.parallelStream().forEach(uid -> {//do something});countDownLatch.countDown();});// 等待任务执行完毕countDownLatch.await();log.info("mission done");} catch (InterruptedException e) {}

参考资料:

  1. 谨慎使用 Java8 新特性 parallelStream
  2. ParallelStream的陷阱
  3. ForkJoinPool线程池—独门专访

相关内容

热门资讯

埃菲尔铁塔在哪 中国仿建埃菲尔... 2019年4月26日,广西南宁市,街头惊现一座巨型山寨版埃菲尔铁塔,高约20米,白色塔身,造型逼真,...
苗族的传统节日 贵州苗族节日有... 【岜沙苗族芦笙节】岜沙,苗语叫“分送”,距从江县城7.5公里,是世界上最崇拜树木并以树为神的枪手部落...
北京的名胜古迹 北京最著名的景... 北京从元代开始,逐渐走上帝国首都的道路,先是成为大辽朝五大首都之一的南京城,随着金灭辽,金代从海陵王...
长白山自助游攻略 吉林长白山游... 昨天介绍了西坡的景点详细请看链接:一个人的旅行,据说能看到长白山天池全凭运气,您的运气如何?今日介绍...
应用未安装解决办法 平板应用未... ---IT小技术,每天Get一个小技能!一、前言描述苹果IPad2居然不能安装怎么办?与此IPad不...
脚上的穴位图 脚面经络图对应的... 人体穴位作用图解大全更清晰直观的标注了各个人体穴位的作用,包括头部穴位图、胸部穴位图、背部穴位图、胳...
demo什么意思 demo版本... 618快到了,各位的小金库大概也在准备开闸放水了吧。没有小金库的,也该向老婆撒娇卖萌服个软了,一切只...
猫咪吃了塑料袋怎么办 猫咪误食... 你知道吗?塑料袋放久了会长猫哦!要说猫咪对塑料袋的喜爱程度完完全全可以媲美纸箱家里只要一有塑料袋的响...
世界上最漂亮的人 世界上最漂亮... 此前在某网上,选出了全球265万颜值姣好的女性。从这些数量庞大的女性群体中,人们投票选出了心目中最美...
埃菲尔铁塔在哪 中国仿建埃菲尔... 2019年4月26日,广西南宁市,街头惊现一座巨型山寨版埃菲尔铁塔,高约20米,白色塔身,造型逼真,...
苗族的传统节日 贵州苗族节日有... 【岜沙苗族芦笙节】岜沙,苗语叫“分送”,距从江县城7.5公里,是世界上最崇拜树木并以树为神的枪手部落...
北京的名胜古迹 北京最著名的景... 北京从元代开始,逐渐走上帝国首都的道路,先是成为大辽朝五大首都之一的南京城,随着金灭辽,金代从海陵王...
长白山自助游攻略 吉林长白山游... 昨天介绍了西坡的景点详细请看链接:一个人的旅行,据说能看到长白山天池全凭运气,您的运气如何?今日介绍...