Java 集合中的排序算法浅析
作者:京东物流 秦彪
1. 引言
排序是一个 Java 开发者,在日常开发过程中随处可见的开发内容,Java 中有丰富的 API 可以调用使用。在 Java 语言中,作为集合工具类的排序方法,必定要做到通用、高效、实用这几点特征。使用什么样排序算法会比较合适,能够做到在尽量降低时间、空间复杂度的情况下,又要兼顾保证稳定性,达到优秀的性能。可能从性能角度出发首先会想到的是快速排序,或者归并排序。作为 jdk 提供的通用排序功能,使用又如此频繁,肯定有独特之处,一起来看学习下期中的奥秘。
文中不会过多的介绍几大基本排序算法的方式、由来和思想,主要精力集中在一块探讨 java 中排序方法所使用的算法,以及那些是值得我们学习和借鉴的内容。文中如有理解和介绍的错误,一起学习,一起探讨,一起进步。
2. 案例
日常使用最为频繁的排序,莫过于如下代码案例,给定一个现有的序列进行一定规则下的排序,配合 java8 的 stream 特性,可以很方便的对一个集合进行排序操作(排序规则只是对排序对象及排序方案的限定,不在本文讨论范围内)。
在代码执行的过程中 SortedOps.java 类中 Arrays.sort(array, 0, offset, comparator); 执行了 Array 集合类型的 sort 排序算法。
如果使用 Collections.sort() 方法如下打印 list1 和 list2 结果一样,且调用的都是 Arrays 集合类中的 sort 方法。
2. Collections.sort 方法介绍
Collections 类中关于 sort 方法定义如下:
通过该方法注释,查看到有三项值得关注的信息,大概意思是该方法实现了稳定且默认升序排序的功能。
进入 sort,代码进入到 List 类的 sort 方法,发现方法将入参 list 先转为了数组 Object[],之后利用 Arrays.sort 进行排序。
首先在这里思考一个问题为什么要转为数组,问题答案已经在方法的英文注释中说明白了。
是为了避免直接对 List<T>的链表进行排序,从而耗费 O(n2logn) 时间复杂度。当然这里在 this.toArray()时,为了将 list 强行变为数组会损失一些性能和空间开销,源码中使用了 System.arraycopy 调用底层操作系统方法进行数据复制,详细内容可以查看相关实现。 继续进入 Arrays 类的 sort 方法定义中,我们没有使用比较器,LegacyMergeSort.userRequested 表示进入老的归并排序算法,默认是关闭的,直接进入本文重点关注的 TimSort.sort(…)方法。
3. TimSort 算法介绍
Timsort 是一个自适应的、混合的、稳定的排序算法,是由 Tim Peter 于 2002 年发明的,最早应用在 Python 中,现在广泛应用于 Python、Java、Android 等语言与平台中,作为基础的排序算法使用。其中 Java 语言的 Collection.sort 在 JDK1.6 使用的是普通的归并排序,归并排序虽然时间复杂度低,但是空间复杂度要求较高,所以从 JDK1.7 开始就更改为了 TimSort 算法。
Timsort 的时间复杂度是 O(n log n),与归并排序的时间复杂度相同,那它的优势是啥呢,实际上可以认为 TimSort 排序算法是归并排序算法的优化版,从它的三个特征就可以看出,第二个特征“混合的”,没错,它不单纯是一种算法,而是融合了归并算法和二分插入排序算法的精髓,因此能够在排序性能上表现优异。其它两个特征自适应和稳定性会在文章后面讲到。首先从算法性能统计上做个对比:
可以看出 TimSort 排序算法,平均和最坏时间复杂度是 O(nlogn),最好时间复杂度是 O(n),空间复杂度是 O(n),且稳定的一种排序算法。在稳定算法中,从性能效果上对比来看和二叉排序算法一样。
3.1 TimSort 的核心思想
那 TimSort 算法的核心思想是什么呢,首先原始的 TimSort 对于长度小于 64 的数据(java 中是 32),会直接选择二分插入排序,效率很高。其次,TimSort 算法的初衷认为现实中的数据总是部分有序的。这句话很关键,怎么理解呢,比如列表[5, 2, 8, 5, 7,23, 45, 63],里面的[5, 2] 和 [8, 5] 和 [7, 23, 45,63] 各子列表中就是有序的,要么升序要么降序,这就是 TimSort 的基本根据。
基于此会发现待排序列表已经部分有序了,所以会在排序过程中尽量不要破坏这种顺序,就可以做到减少排序时间消耗。基本思想说完了,由此引出 TimSort 算法的几个概念:run 和 minrun。
run 是指连续升序或者连续降序的最长子序列(降序和升序可以相互转换),而 minrun 是一个设定值,实际上是每个 run 的长度最小值。所以 TimSort 会对待排序序列进行划分,找出连续有序的子序列,如果子序列长度不满足这点要求,就将后续数据插入到前面的子序列中。
举个例子,待排序序列[5, 2, 8, 5, 7,23, 45, 63], 如果 minRun = 3,那分割后的 run 会有以下:[2, 5, 8]、[5,7,23,45,63] 两个子序列,最终通过合并这两个 run 得到[2,5,5,7,8,23,45,63]
是不是有个疑问: minrun 怎么选择得到的?该值是通过大量的统计计算给出的 minrun 长度建议是在 32 ~ 64 之间取值效率比较高,具体在 java 代码中可能会有所不同。
接着来看,假设现在有序子序列已经拆分好了,需要进入到合并过程中了,TimSort 是如何合并子序列的。对于归并排序我们都知道,序列先归后并,两两组合利用一个空数组直接进行比较就合并了。但是在 TimSort 算法中,合并过程是实时的,每次算出一个 run 就可能做一次合并。这个过程利用了栈结构,且需要遵循相邻的 run 才可以合并,也就是只有相邻的栈元素可以进行合并。
规则如下:假设当前有三个 run 子序列依次入栈,现在栈顶有三个元素从上至下依次为 x3、x2、x1,它们的长度只要满足以下两个条件中的任何一个就进行合并:
(1)x1 <= x2 + x3
(2)x1 <= x2
满足这个条件的三个序列,像汉诺塔一样长度由下往上依次减小。刚才提到合并 run 的过程是实时的,也就是每产生一个 run 就进行一次合并操作。举例说明下,当前假设待排序序列[2,6,8,4,2,5,7,9,10,11,4,25,64,32,78,99],其中再假设 minrun=3 是合理的。合并过程是这样的,注意这里的压栈和弹栈不一定需要对子序列本身进行操作,不是真的将子序列放入栈中,而只需要 run 标识以及长度即可,因为栈元素比较的是 run 长度。
(1)首先第一个 run0 是[2,6,8],而第二个 run1 是[2,4,5],此时依次将其放入栈中,发现满足第二个条件,这两个 run 进行合并,合并后将旧序列从栈中弹出,得到新的 run0 是[2,2,4,5,6,8],再次压入栈中。
(2)继续从原序列中找到新的 run1 是[7,9,10,11],压入栈中,此时 run0 和 run1 不满足条件不需要合并。继续从原序列中找到 run2 是[4,25,64],压入栈中,此时满足第一个条件,这里的 run1 和 run2 需要进行合并,合并后将旧序列从栈中弹出,新 run1 是[4,7,9,10,11,25,64],压入栈中。
(3)此时发现 run0 和 run1 满足第二个条件,继续合并弹出旧序列,得到新 run0 是[2,2,4,4,5,6,7,8,9,10,11,25,64],压入栈中。
(4)继续从原序列中找到新的 run1 是[32,78,99],压入栈中。此时发现没有更多元素,而条件是不满足的,依然进行一次合并,弹出旧序列,压入合并后的新子序列 run0 是[2,2,4,4,5,6,7,8,9,10,11,25,32,64,78,99]
(5)此时将 run0 拷贝到原序列就完成了排序
为什么要设置这么两个合并 run 的严格条件,直接压栈合并岂不更好?目的是为了避免一个较长的有序片段和一个较小的有序片段进行归并,在合并长度上做到均衡效率才高。
在合并 run 的过程中会用到一种所谓的 gallop(飞奔)模式,能够减少参与归并的数据长度,主要过程如下:假设有待归并的子序列 x 和 y,如果 x 的前 n 个元素都是比 y 首元素小的,那这 n 个元素实际上就不用参与归并了。原因就是这 n 个元素本来已经有序了,归并后还是在原来的位置。同理而言,如果 y 的最后几个元素都比 x 最后一个元素小,那 y 的最后这 n 个元素也就不必参与归并操作了,这样就可以减少归并长度,减少来回复制多余数据的开销。
3.2 Java 源码
探讨完 TimSort 的核心思想及其排序过程,现在来看下 java 代码是如何实现的。Java1.8 中的 TimSort 类位置在 java.util.TimSort
变量 nRemaining 记录的是待排序列表中剩余元素个数, MIN_MERGE 就是前文中提到的 java 中的 minrun 值是 32。如果 nRemaining<32,用 countRunAndMakeAscending(…)方法得到连续升序的最大个数,里面涉及到升序降序调整。可以看到如果待排序列表小于 32 长度,就进行二分插入排序 binarySort(…)。
如果待排序列表长度大于 32,调用 TimSort 对象的 minRunLength(nRemaining) 计算 minRun,这里就体现了动态自适应,具体来看代码中是如何做的。r 为取出长度 n 的二进制每次右移的一个溢出位值,n 每次右移 1 位,直到长度 n 小于 32。n+r 最终结果就是保留长度 n 的二进制的高 5 位再加上 1 个移除位。根据注释可以看出:
如果待排序数组长度为 2 的 n 次幂,比如 1024,则 minRun = 32/2 = 16
其它情况的时候,逐位右移,直到找到介于 16<=k<=32 的值。
假如待排序列表长度是 7680,二进制是 1111000000000,按照操作后是 11110 十进制是 30,再加上移除位 0 是 30,所以 minRun=30
接下来在循环中进行处理:
(1) 计算最小升序的 run 长度,如果小于 minRun,使用二分插入排序将 run 的长度补充到 minRun 要求的长度。
(2) ts.pushRun(lo, runLen) ,通过栈记录每个 run 的长度,这里 lo 是 run 的第一个元素的索引用来标记操作的是哪个 run,runLen 是 run 的长度。
(3)ts.mergeCollapse(); 通过计算前面提到的两个 run 合并的限定条件,分别是:
runLen[n-1] <= runLen[n] + runLen[n+1]
runLen[n] <= runLen[n + 1]
(4) 这里的 mergeAt(n) 归并排序过程,之前有提到是经过优化后所谓 gallop 模式的归并排序,具体表现在方法中的 gallopRight 和 gallopLeft 方法。
假设有 X 序列[4,9,21,23], Y 序列[5,7,12,13,14,15,17],由于 X 中 4 小于 Y 序列最小元素 5,所以合并后 4 必然是第一个元素;而 Y 序列中尾元素 17 比 X 中的[21,23]小,所以 X 中的[21,23]必然是合并最后两元素。
4. DivalQuickSort 算法介绍
前文案例中提到 SortedOps.java 类,该类中对于基本类型的排序调用 Arrays.sort(ints); 或 Arrays.sort(longs); 再或 Arrays.sort(doubles); 使用了 DivalQuickSort 排序算法。
4.1 DivalQuickSort 核心思想
快速排序使用的是在排序序列中选择一个数作为分区点 pivot,也就是所谓的轴,然后以此轴将数据分为左右两部分,大于该值的为一个区,小于该值的为一个区,利用分治和递归思想实现。如下假设选择 19 为 pivot 值。
双轴快排,如其名字所示,就是会选取两个数作为 pivot,这样就会划分出三个区间,实际在执行中会有 4 个区间,分别是小于等于 pivot1 区间;pivot1 和 pivot2 之间区间,待处理区间; 大于等于 pivot2 区间。如下假设选择 10 和 19 为两个 pivot 值。
每次递归迭代时遍历待处理的区域数据,然后比较它应该放的位置,并进行交换操作,逐渐压缩待处理区域的数据长度,处理掉待处理区域的元素数据;执行完毕一轮数据后交换 pivot 数值,然后各自区间再进行递归排序即可。
4.2 Java 源码
通过看代码可以看出,java 中的双轴快排在片段数据长度及一定条件的情况下,还使用了其它诸如归并、插入等排序算法。
由于 DivalQuickSort 算法实现内容比较复杂,文中重点讲解了 TimSort 算法,待笔者研究透彻后进行补充。
5. 相同环境排序时间对比
想要真正模拟一模一样运行环境,是困难的。这里只是模拟相同的数据集,在相同机器上,其实就是平时办公的机器,统计不同排序算法排序过程中耗费的时间,这里的结果仅供参考。
模拟数据:随机得到 1 亿个范围在 0 到 100000000 内的整型元素构成数组,分别基于快速排序、普通归并排序、TimSort 的排序算法得到耗时结果如下,单位 ms。
通过测试验证结果来看,在当前数据集规模下,双轴快排 DivalQuickSort 表现优异。注:Java 中 TimSort 主要运用引用类型的集合排序中,本次数据验证并未加入比较。
5. 总结与探讨
由于 Java 提供了很方便的排序 API,所以在平时的需求使用过程中一般都是短短几行代码调用使用完整排序工作,这也是 Java 作为一门流行语言最基本的职责所在。当然也会导致我们开发者容易忽视其原理,不能够学习到里面的精髓。
文中一起了解学习了 TimSort 算法和 DivalQuickSort 的排序思想与 java 实现。作为基本排序实现被广泛的应用,肯定有其值得学习与借鉴的地方。可以得知工业用排序算法,通常都不是一种算法,而是根据特定条件下的多种算法混合而成,实际上平时很多使用的经典数据结构都不是一种类型或者一种方式,比如 HashMap 中随着数据量大小有链表与红黑树的转化,再比如 Redis 中的各种数据结构不都是一种实现。这些经典优秀的实现都用到了诸如此类的思想。
版权声明: 本文为 InfoQ 作者【京东科技开发者】的原创文章。
原文链接:【http://xie.infoq.cn/article/e31e886d30da973f0aceeb3e8】。文章转载请联系作者。
评论