性能优化技巧：后半有序分组

raqsoft 2021-01-26

展开全文

一、问题背景与适用场景

什么是后半有序？如果数据集T已经按字段a、b有序，现在我们要将T按b排序或分组时，因为在a值相同的段内，b都是有序的，这种要排序或分组的字段在分段内有序的情况就称为后半有序。

我们知道，快速排序算法的原理就是一种递归的分段排序再归并的算法，对于后半有序这样的已经大体有序的数组，快速排序的速度已经能够很快。所以如果采用快速排序算法对T按b排序后，就可以使用《性能优化技巧：有序分组》中介绍的优化原理进行分组了。

SPL提供了后半有序分组方法，我们实例测试一下，并且与SPL和Oracle的hash分组算法作对比。

二、测试环境与任务

测试机有两个Intel2670 CPU，主频2.6G，共16核，内存64G，SSD固态硬盘。在此机上安装虚拟机来测试，设置虚拟机为16核、8G内存。

在虚拟机上创建数据表sales，共四个字段：orderdate、area(字符串)、salesman(字符串)、amount(实数)，生成数据记录10亿行。将此表数据导入Oracle数据库，同时用它生成集算器SPL组表来进行测试。

数据按orderdate、area、salesman字段升序排列，要求查询出各地区各销售人员的销售总额，也就是按area、salesman进行分组，结果集总共有100万组。由于Oracle输出这么多行结果需要很长的时间，所以对分组结果再进行一次过滤，只输出销售总额小于471000元的订单，结果只有11条，输出就不占时间了。

三、测试

1. Oracle测试

编写查询测试SQL如下：

select * from (

select /*+ parallel(n) */

area, salesman, sum(amount) as amount

from sales

group by area, salesman

) where amount<471000;

其中/*+ parallel(n) */ 用于并行测试，n为并行数。

2. SPL后半有序分组

编写SPL脚本如下：

	A
1	=now()
2	=file("/home/ctx/sales.ctx").create().cursor@m(area,salesman,amount;;1)
3	=A2.groups@h(area,salesman;sum(amount):amount).select(amount<471000)
4	=interval@s(A1,now())