您当前的位置:首页 > 电脑百科 > 程序开发 > 编程百科

解锁多核处理器的力量:探索数据并行化在 Java 8 Stream 中的应用

时间:2023-08-22 15:38:45  来源:稀土掘金  作者:努力的IT小胖子

JAVA 8 中引入的 Stream 为集合数据的处理带来了现代化的方式,而数据并行化则进一步提升了处理速度,充分发挥了多核处理器的优势。本篇博客将详细介绍数据并行化在 Java 8 Stream 中的应用,以及如何利用并行流处理大量数据。

什么是数据并行化

数据并行化是指将任务分解成多个子任务,并将这些子任务分配给多个处理单元(如多个 CPU 核心)并行执行。在集合数据的处理中,可以将数据划分为多个小块,然后在不同的处理单元上并行处理,从而加快处理速度。

在大量数据处理上,数据并行化可以大量缩短任务的执行时间,将一个数据分解成多个部分,然后并行处理,最后将多个结果汇总,得到最终的结果

并行和并发

并发(Concurrency)

并发是指多个任务在同一时间段内交替执行。它可以在单个处理器上通过任务切换(上下文切换)实现,也可以在多个处理器上同时进行。在并发模式下,多个任务在微观上交替执行,但在某个时间段内只有一个任务在执行。这种模式通常用于提高系统的效率和响应能力,适用于 I/O 密集型任务,如网络通信、文件读写等。

image.png

并行(Parallelism)

并行是指多个任务在同一时刻同时执行,每个任务在不同的处理器核心上独立运行。与并发不同,并行是在宏观上实现多任务的真正同时执行。这种模式通常用于提高计算密集型任务的处理速度,如科学计算、图像处理等。

image.png

总结

  • 并发关注任务之间的交替执行,是一种在时间上的重叠。
  • 并行关注任务在同一时刻的同时执行,是一种在时间上的重合。
  • 并发适用于提高系统效率和响应能力,适用于 I/O 密集型任务。
  • 并行适用于提高计算速度,适用于计算密集型任务。

并行流的使用示例

Java 8 引入了并行流,它使得数据并行化变得非常容易。只需将顺序流转换为并行流,即可实现并行处理。以下是一个简单的示例代码:


 
java
复制代码
public class MaxDemo { public static void mAIn(String[] args) { List<Integer> numbers = new ArrayList<>(); numbers.add(1); numbers.add(2); numbers.add(3); int sum = numbers.parallelStream().mapToInt(i -> i).sum(); System.out.println(sum); }

在上述示例中,通过 parallelStream() 方法将顺序流转换为并行流,从而实现了并行处理。接着,我们对流进行了过滤和映射操作,最后计算了偶数的总和。

注意事项和适用场景

虽然并行流可以提升处理速度,但并不是在所有情况下都适用。不要陷入一个误区:并行一定比串行快。并行在不同的情况下不一定比串行快。影响并行性能有以下因素:

数据量

如果数据量太小,会直接影响到并行处理的性能。因为在并行内部实现涉及到 fork/join 的操作,这些操作的本身就存在性能的开销,只有当数据量很大的时候,使用并行处理才有意义

源数据结构

fork 时会对源数据进行分割,数据源的特性直接影响到 fork 的性能,从而导致并行流性能很慢

  • arrayList、array、IntStream.range,是最容易分割的,因为都支持随机读取
  • HashSet、TreeSet, 相对来说比较容易分割,但是因为内部数据结构,很难被平均分解
  • LinkedList、Streams.iterate、BufferedReader.lined 不容易分分割,因为长度未知,无法确定分在哪里进行分割

装箱拆箱

尽量使用基本数据类型,避免装箱和拆箱

CPU 核数

fork 产生的数量是与 CPU 核数相关,可用的核数越多,获取的性能提升越大

单元处理开销

花在流中每个元素的时间越长,并行操作带来的性能提升就越明显

并行流原理介绍

并行流的工作原理可以分为以下几个步骤:

  1. 数据切分:初始数据被分成多个小块,每个块包含一部分元素。
  2. 并行处理:各个处理器核心同时对不同的数据块执行相同的操作。
  3. 结果合并:各个处理器核心处理完成后,将结果合并为最终结果。

并行流在底层的实现是沿用 Java7 提供的 fork 和 join 分解合并框架实现的,fork 根据 cpi 核数进行数据分开,join 对各 forn 进行合并。实现过程如下图所示:

image.png

总结

数据并行化是 Java 8 Stream 中的重要特性,可以显著提升大规模数据处理的速度。通过将顺序流转换为并行流,我们可以利用多核处理器的优势,实现高效的并行处理。然而,在使用并行流时需要注意线程安全和适用场景,以充分发挥其优势。在实际开发中,根据数据规模和操作类型的不同,合理使用并行流将为你的程序带来性能的提升。


作者:努力的IT小胖子
链接:https://juejin.cn/post/7269743983189409828
来源:稀土掘金
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。


Tags:Java   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
17 个你需要知道的 JavaScript 优化技巧
你可能一直在使用JavaScript搞开发,但很多时候你可能对它提供的最新功能并不感冒,尽管这些功能在无需编写额外代码的情况下就可以解决你的问题。作为前端开发人员,我们必须了解...【详细内容】
2024-04-03  Search: Java  点击:(4)  评论:(0)  加入收藏
你不可不知的 15 个 JavaScript 小贴士
在掌握如何编写JavaScript代码之后,那么就进阶到实践&mdash;&mdash;如何真正地解决问题。我们需要更改JS代码使其更简单、更易于阅读,因为这样的程序更易于团队成员之间紧密协...【详细内容】
2024-03-21  Search: Java  点击:(25)  评论:(0)  加入收藏
Oracle正式发布Java 22
Oracle 正式发布 Java 22,这是备受欢迎的编程语言和开发平台推出的全新版本。Java 22 (Oracle JDK 22) 在性能、稳定性和安全性方面进行了数千种改进,包括对Java 语言、其API...【详细内容】
2024-03-21  Search: Java  点击:(10)  评论:(0)  加入收藏
构建一个通用灵活的JavaScript插件系统?看完你也会!
在软件开发中,插件系统为应用程序提供了巨大的灵活性和可扩展性。它们允许开发者在不修改核心代码的情况下扩展和定制应用程序的功能。本文将详细介绍如何构建一个灵活的Java...【详细内容】
2024-03-20  Search: Java  点击:(20)  评论:(0)  加入收藏
Java 8 内存管理原理解析及内存故障排查实践
本文介绍Java8虚拟机的内存区域划分、内存垃圾回收工作原理解析、虚拟机内存分配配置,以及各垃圾收集器优缺点及场景应用、实践内存故障场景排查诊断,方便读者面临内存故障时...【详细内容】
2024-03-20  Search: Java  点击:(14)  评论:(0)  加入收藏
如何编写高性能的Java代码
作者 | 波哥审校 | 重楼在当今软件开发领域,编写高性能的Java代码是至关重要的。Java作为一种流行的编程语言,拥有强大的生态系统和丰富的工具链,但是要写出性能优异的Java代码...【详细内容】
2024-03-20  Search: Java  点击:(21)  评论:(0)  加入收藏
在Java应用程序中释放峰值性能:配置文件引导优化(PGO)概述
译者 | 李睿审校 | 重楼在Java开发领域,优化应用程序的性能是开发人员的持续追求。配置文件引导优化(Profile-Guided Optimization,PGO)是一种功能强大的技术,能够显著地提高Ja...【详细内容】
2024-03-18  Search: Java  点击:(24)  评论:(0)  加入收藏
对JavaScript代码压缩有什么好处?
对JavaScript代码进行压缩主要带来以下好处: 减小文件大小:通过移除代码中的空白符、换行符、注释,以及缩短变量名等方式,可以显著减小JavaScript文件的大小。这有助于减少网页...【详细内容】
2024-03-13  Search: Java  点击:(2)  评论:(0)  加入收藏
跨端轻量JavaScript引擎的实现与探索
一、JavaScript 1.JavaScript语言JavaScript是ECMAScript的实现,由ECMA 39(欧洲计算机制造商协会39号技术委员会)负责制定ECMAScript标准。ECMAScript发展史: 2.JavaScript...【详细内容】
2024-03-12  Search: Java  点击:(2)  评论:(0)  加入收藏
面向AI工程的五大JavaScript工具
令许多人惊讶的是,一向在Web开发领域中大放异彩的JavaScript在开发使用大语言模型(LLM)的应用程序方面同样大有价值。我们在本文中将介绍面向AI工程的五大工具,并为希望将LLM...【详细内容】
2024-02-06  Search: Java  点击:(52)  评论:(0)  加入收藏
▌简易百科推荐
即将过时的 5 种软件开发技能!
作者 | Eran Yahav编译 | 言征出品 | 51CTO技术栈(微信号:blog51cto) 时至今日,AI编码工具已经进化到足够强大了吗?这未必好回答,但从2023 年 Stack Overflow 上的调查数据来看,44%...【详细内容】
2024-04-03    51CTO  Tags:软件开发   点击:(5)  评论:(0)  加入收藏
跳转链接代码怎么写?
在网页开发中,跳转链接是一项常见的功能。然而,对于非技术人员来说,编写跳转链接代码可能会显得有些困难。不用担心!我们可以借助外链平台来简化操作,即使没有编程经验,也能轻松实...【详细内容】
2024-03-27  蓝色天纪    Tags:跳转链接   点击:(12)  评论:(0)  加入收藏
中台亡了,问题到底出在哪里?
曾几何时,中台一度被当做“变革灵药”,嫁接在“前台作战单元”和“后台资源部门”之间,实现企业各业务线的“打通”和全域业务能力集成,提高开发和服务效率。但在中台如火如荼之...【详细内容】
2024-03-27  dbaplus社群    Tags:中台   点击:(8)  评论:(0)  加入收藏
员工写了个比删库更可怕的Bug!
想必大家都听说过删库跑路吧,我之前一直把它当一个段子来看。可万万没想到,就在昨天,我们公司的某位员工,竟然写了一个比删库更可怕的 Bug!给大家分享一下(不是公开处刑),希望朋友们...【详细内容】
2024-03-26  dbaplus社群    Tags:Bug   点击:(5)  评论:(0)  加入收藏
我们一起聊聊什么是正向代理和反向代理
从字面意思上看,代理就是代替处理的意思,一个对象有能力代替另一个对象处理某一件事。代理,这个词在我们的日常生活中也不陌生,比如在购物、旅游等场景中,我们经常会委托别人代替...【详细内容】
2024-03-26  萤火架构  微信公众号  Tags:正向代理   点击:(10)  评论:(0)  加入收藏
看一遍就理解:IO模型详解
前言大家好,我是程序员田螺。今天我们一起来学习IO模型。在本文开始前呢,先问问大家几个问题哈~什么是IO呢?什么是阻塞非阻塞IO?什么是同步异步IO?什么是IO多路复用?select/epoll...【详细内容】
2024-03-26  捡田螺的小男孩  微信公众号  Tags:IO模型   点击:(8)  评论:(0)  加入收藏
为什么都说 HashMap 是线程不安全的?
做Java开发的人,应该都用过 HashMap 这种集合。今天就和大家来聊聊,为什么 HashMap 是线程不安全的。1.HashMap 数据结构简单来说,HashMap 基于哈希表实现。它使用键的哈希码来...【详细内容】
2024-03-22  Java技术指北  微信公众号  Tags:HashMap   点击:(11)  评论:(0)  加入收藏
如何从头开始编写LoRA代码,这有一份教程
选自 lightning.ai作者:Sebastian Raschka机器之心编译编辑:陈萍作者表示:在各种有效的 LLM 微调方法中,LoRA 仍然是他的首选。LoRA(Low-Rank Adaptation)作为一种用于微调 LLM(大...【详细内容】
2024-03-21  机器之心Pro    Tags:LoRA   点击:(12)  评论:(0)  加入收藏
这样搭建日志中心,传统的ELK就扔了吧!
最近客户有个新需求,就是想查看网站的访问情况。由于网站没有做google的统计和百度的统计,所以访问情况,只能通过日志查看,通过脚本的形式给客户导出也不太实际,给客户写个简单的...【详细内容】
2024-03-20  dbaplus社群    Tags:日志   点击:(4)  评论:(0)  加入收藏
Kubernetes 究竟有没有 LTS?
从一个有趣的问题引出很多人都在关注的 Kubernetes LTS 的问题。有趣的问题2019 年,一个名为 apiserver LoopbackClient Server cert expired after 1 year[1] 的 issue 中提...【详细内容】
2024-03-15  云原生散修  微信公众号  Tags:Kubernetes   点击:(6)  评论:(0)  加入收藏
站内最新
站内热门
站内头条