配色: 字号:
chp9
2012-05-06 | 阅:  转:  |  分享 
  
AnIntroductiontoDatabaseSystem中国人民大学信息学院第九章关系系统及其查询优化9.1关系数
据库系统的查询处理9.2关系数据库系统的查询优化9.3代数优化9.4物理优化9.5小结关系系统及其查询
优化(续)本章目的:RDBMS的查询处理步骤查询优化的概念基本方法和技术查询优化分类:代数优化物理优化
9.1关系数据库系统的查询处理9.1.1查询处理步骤9.1.2实现查询操作的算法示例9.1.1查询处理步骤
RDBMS查询处理阶段:1.查询分析2.查询检查3.查询优化4.查询执行查询处理步骤(续)1.查
询分析对查询语句进行扫描、词法分析和语法分析从查询语句中识别出语言符号进行语法检查和语法分析2.查询检查根
据数据字典对合法的查询语句进行语义检查根据数据字典中的用户权限和完整性约束定义对用户的存取权限进行检查检查通过后把SQ
L查询语句转换成等价的关系代数表达式RDBMS一般都用查询树(语法分析树)来表示扩展的关系代数表达式把数据库对象的外部
名称转换为内部表示3.查询优化查询优化:选择一个高效执行的查询处理策略查询优化分类:代数优化:指关系代数表达式的优
化物理优化:指存取路径和底层操作算法的选择查询优化方法选择的依据:基于规则(rulebased)基于代价(costba
sed)基于语义(semanticbased)4.查询执行依据优化器得到的执行策略生成查询计划代码生成器(code
generator)生成执行查询计划的代码9.1关系数据库系统的查询处理9.1.1查询处理步骤9.1.2实现查
询操作的算法示例9.1.2实现查询操作的算法示例一、选择操作的实现二、连接操作的实现一、选择操作的实现
[例1]Selectfromstudentwhere<条件表达式>; 考虑<条件表达式>的几种情况:
C1:无条件; C2:Sno=''200215121''; C3:Sage>20; C4:Sdept=''CS''ANDS
age>20;选择操作的实现(续)选择操作典型实现方法:1.简单的全表扫描方法对查询的基本表顺序扫描,逐一检查每个元
组是否满足选择条件,把满足条件的元组作为结果输出适合小表,不适合大表2.索引(或散列)扫描方法适合选择条件中的属性上有
索引(例如B+树索引或Hash索引)通过索引先找到满足条件的元组主码或元组指针,再通过元组指针直接在查询的基本表中找到元组
选择操作的实现(续)[例1-C2]以C2为例,Sno=‘200215121’,并且Sno上有索引(或Sno是散列码)使用索
引(或散列)得到Sno为‘200215121’元组的指针通过元组指针在student表中检索到该学生[例1-C3]以C
3为例,Sage>20,并且Sage上有B+树索引使用B+树索引找到Sage=20的索引项,以此为入口点在B+树的顺序集上得到
Sage>20的所有元组指针通过这些元组指针到student表中检索到所有年龄大于20的学生。选择操作的实现(续)[例1-
C4]以C4为例,Sdept=‘CS’ANDSage>20,如果Sdept和Sage上都有索引:算法一:分别用上面两种方
法分别找到Sdept=‘CS’的一组元组指针和Sage>20的另一组元组指针求这2组指针的交集到student表中检索得到计
算机系年龄大于20的学生算法二:找到Sdept=‘CS’的一组元组指针,通过这些元组指针到student表中检索对得到的元
组检查另一些选择条件(如Sage>20)是否满足把满足条件的元组作为结果输出。二、连接操作的实现连接操作是查询处理中
最耗时的操作之一本节只讨论等值连接(或自然连接)最常用的实现算法[例2]SELECTFROMStudent
,SC WHEREStudent.Sno=SC.Sno;连接操作的
实现(续)1.嵌套循环方法(nestedloop)2.排序-合并方法(sort-mergejoin或merge
join)3.索引连接(indexjoin)方法4.HashJoin方法连接操作的实现(续)嵌套循环方法(
nestedloop)对外层循环(Student)的每一个元组(s),检索内层循环(SC)中的每一个元组(sc)检查这两个元
组在连接属性(sno)上是否相等如果满足连接条件,则串接后作为结果输出,直到外层循环表中的元组处理完为止连接操作的实现(续)
2.排序-合并方法(sort-mergejoin或mergejoin)适合连接的诸表已经排好序的情况排序-合并连
接方法的步骤:如果连接的表没有排好序,先对Student表和SC表按连接属性Sno排序取Student表中第一个Sno,依次
扫描SC表中具有相同Sno的元组连接操作的实现(续)连接操作的实现(续)排序-合并连接方法的步骤(续):当扫描到Sno不
相同的第一个SC元组时,返回Student表扫描它的下一个元组,再扫描SC表中具有相同Sno的元组,把它们连接起来重复上述步骤
直到Student表扫描完连接操作的实现(续)Student表和SC表都只要扫描一遍如果2个表原来无序,执行时间要加上对
两个表的排序时间对于2个大表,先排序后使用sort-mergejoin方法执行连接,总的时间一般仍会大大减少连接操作的实现
(续)3.索引连接(indexjoin)方法步骤:①在SC表上建立属性Sno的索引,如果原来没有该索引②对Stud
ent中每一个元组,由Sno值通过SC的索引查找相应的SC元组③把这些SC元组和Student元组连接起来循环执行②
③,直到Student表中的元组处理完为止连接操作的实现(续)4.HashJoin方法把连接属性作为hash码,用同
一个hash函数把R和S中的元组散列到同一个hash文件中步骤:划分阶段(partitioningphase):对包含较少
元组的表(比如R)进行一遍处理把它的元组按hash函数分散到hash表的桶中试探阶段(probingphase):也称为连接
阶段(joinphase)对另一个表(S)进行一遍处理把S的元组散列到适当的hash桶中把元组与桶中所有来自R并与之相匹
配的元组连接起来连接操作的实现(续)上面hashjoin算法前提:假设两个表中较小的表在第一阶段后可以完全放入内存的has
h桶中以上的算法思想可以推广到更加一般的多个表的连接算法上第九章关系系统及其查询优化9.1关系数据库系统的查询处
理9.2关系数据库系统的查询优化9.3代数优化9.4物理优化9.5小结9.2关系
数据库系统的查询优化查询优化在关系数据库系统中有着非常重要的地位关系查询优化是影响RDBMS性能的关键因素由于关系表
达式的语义级别很高,使关系系统可以从关系表达式中分析查询语义,提供了执行查询优化的可能性9.2关系数据库系统的查询优化9
.2.1查询优化概述9.2.2一个实例9.2.1查询优化概述关系系统的查询优化非关系系统查询优化概述(
续)查询优化的优点不仅在于用户不必考虑如何最好地表达查询以获得较好的效率,而且在于系统可以比用户程序的“优化”做得更好(1)
优化器可以从数据字典中获取许多统计信息,而用户程序则难以获得这些信息(2)如果数据库的物理统计信息改变了,系统可以自动对查询重
新优化以选择相适应的执行计划。在非关系系统中必须重写程序,而重写程序在实际应用中往往是不太可能的。查询优化概述(续)(3)优化
器可以考虑数百种不同的执行计划,程序员一般只能考虑有限的几种可能性。(4)优化器中包括了很多复杂的优化技术,这些优化技术往往只有
最好的程序员才能掌握。系统的自动优化相当于使得所有人都拥有这些优化技术查询优化概述(续)RDBMS通过某种代价模型计算出各种
查询执行策略的执行代价,然后选取代价最小的执行方案集中式数据库执行开销主要包括:磁盘存取块数(I/O代价)处理机时间(CP
U代价)查询的内存开销I/O代价是最主要的 分布式数据库总代价=I/O代价+CPU代价+内存代价+通信代价查询优化
概述(续)查询优化的总目标:选择有效的策略求得给定关系表达式的值使得查询代价最小(实际上是较小)9.2关系数据库系统
的查询优化9.2.1查询优化概述9.2.2一个实例9.2.2一个实例[例3]求选修了2号课程的学生姓名。
用SQL表达:SELECTStudent.Sname FROMStudent,SC WHER
EStudent.Sno=SC.SnoAND SC.Cno=‘2’;假定学生-课程数据库中有1000个学生记
录,10000个选课记录其中选修2号课程的选课记录为50个一个实例(续)系统可以用多种等价的关系代数表达式来完成这一查询
Q1=πSname(σStudent.Sno=SC.Sno∧Sc.Cno=''2''(Student×SC))Q2=πSname(
σSc.Cno=''2''(StudentSC))Q3=πSname(StudentσSc.Cno=''2''(
SC)) 一个实例(续)一、第一种情况Q1=πSname(σStudent.Sno=SC.Sno∧Sc.Cno=''2''
Student×SC))1.计算广义笛卡尔积把Student和SC的每个元组连接起来的做法:在内存中尽可能多地装入某个
表(如Student表)的若干块,留出一块存放另一个表(如SC表)的元组。把SC中的每个元组和Student中每个元组连接,连接
后的元组装满一块后就写到中间文件上从SC中读入一块和内存中的Student元组连接,直到SC表处理完。再读入若干块Studen
t元组,读入一块SC元组重复上述处理过程,直到把Student表处理完一个实例(续)设一个块能装10个Student元组或1
00个SC元组,在内存中存放5块Student元组和1块SC元组,则读取总块数为


=100+20×100=2100块其中,读Student表100块。读SC表20遍,每遍100块。若每秒读写20块,则总计
要花105s连接后的元组数为103×104=107。设每块能装10个元组,则写出这些块要用106/20=5×104s一个实
例(续)2.作选择操作依次读入连接后的元组,按照选择条件选取满足要求的记录假定内存处理时间忽略。读取中间文件花费的时间
(同写中间文件一样)需5×104s满足条件的元组假设仅50个,均可放在内存一个实例(续)3.作投影操作把第2步的结
果在Sname上作投影输出,得到最终结果第一种情况下执行查询的总时间≈105+2×5×104≈105s所有内存处理时间均忽略
不计一个实例(续)二、第二种情况Q2=πSname(σSc.Cno=''2''(StudentSC)
)1.计算自然连接执行自然连接,读取Student和SC表的策略不变,总的读取块数仍为2100块花费105s自然连接
的结果比第一种情况大大减少,为104个写出这些元组时间为104/10/20=50s,为第一种情况的千分之一2.读取中间文
件块,执行选择运算,花费时间也为50s。3.把第2步结果投影输出。第二种情况总的执行时间≈105+50+50≈205
s一个实例(续)三、第三种情况Q3=πSname(StudentσSc.Cno=''2''(SC))1
.先对SC表作选择运算,只需读一遍SC表,存取100块花费时间为5s,因为满足条件的元组仅50个,不必使用中间文件。2.读取
Student表,把读入的Student元组和内存中的SC元组作连接。也只需读一遍Student表共100块,花费时间为5s。3
.把连接结果投影输出第三种情况总的执行时间≈5+5≈10s一个实例(续)假如SC表的Cno字段上有索引第一
步就不必读取所有的SC元组而只需读取Cno=‘2’的那些元组(50个)存取的索引块和SC中满足条件的数据块大约总共3~4块若
Student表在Sno上也有索引第二步也不必读取所有的Student元组因为满足条件的SC记录仅50个,涉及最多50个Stu
dent记录读取Student表的块数也可大大减少总的存取时间将进一步减少到数秒一个实例(续)把代数表达式Q1变换为
Q2、Q3,即有选择和连接操作时,先做选择操作,这样参加连接的元组就可以大大减少,这是代数优化在Q3中SC表的选择操作算法
有全表扫描和索引扫描2种方法,经过初步估算,索引扫描方法较优对于Student和SC表的连接,利用Student表上的索引,采
用indexjoin代价也较小,这就是物理优化第九章关系系统及其查询优化9.1关系数据库系统的查询处理9.2关
系数据库系统的查询优化9.3代数优化9.4物理优化9.5小结9.3代数优化9.3.1关系
代数表达式等价变换规则9.3.2查询树的启发式优化9.3.1关系代数表达式等价变换规则代数优化策略:通过对关
系代数表达式的等价变换来提高查询效率关系代数表达式的等价:指用相同的关系代替两个表达式中相应的关系所得到的结果是相同的两
个关系表达式E1和E2是等价的,可记为E1≡E2关系代数表达式等价变换规则(续)常用的等价变换规则:1.连接、笛卡尔
积交换律设E1和E2是关系代数表达式,F是连接运算的条件,则有E1×E2≡E2×E1E1
E2≡E2E1E1E2≡E2E12.连接、笛卡尔积的结合律设E
1,E2,E3是关系代数表达式,F1和F2是连接运算的条件,则有(E1×E2)×E3≡E1×(E2×E
3)(E1E2)E3≡E1(E2E3)(E1E2)
E3≡E1(E2E3)关系代数表达式等价变换规则(续)3.投影的串接定律
((E))≡(E) 这里,E是关系代数表达式,Ai(i=1,2
,…,n),Bj(j=1,2,…,m)是属性名且{A1,A2,…,An}构成{B1,B2,…,Bm}的子集。4.选择的串接定律
((E))≡(E) 这里,E是关系代数表达式,F1、F2是选择条件。
选择的串接律说明选择条件可以合并。这样一次就可检查全部条件。关系代数表达式等价变换规则(续)5.选择与投影操作的交换律
σF((E))≡(σF(E)) 选择条件F只涉及属性A1,…,An。 若F
中有不属于A1,…,An的属性B1,…,Bm则有更一般的规则:(σF(E))≡
(σF((E)))关系代数表达式等价变换规则(续)6.选择与笛卡尔积的交换律
如果F中涉及的属性都是E1中的属性,则(E1×E2)≡(E1)×E2 如果F=F1∧F2,并且
F1只涉及E1中的属性,F2只涉及E2中的属性,则由上面的等价变换规则1,4,6可推出:(E1×E2)≡
(E1)×(E2) 若F1只涉及E1中的属性,F2涉及E1和E2两者的属性,则仍有(E1×E2)
≡((E1)×E2) 它使部分选择在笛卡尔积前先做。关系代数表达式等价变换规则(续)7.选择与并的
分配律 设E=E1∪E2,E1,E2有相同的属性名,则σF(E1∪E2)≡σF(E1)∪σF(E2)8.选择与差运
算的分配律 若E1与E2有相同的属性名,则σF(E1-E2)≡σF(E1)-σF(E2)9.选择对自然连接的分配律
σF(E1E2)≡σF(E1)σF(E2)F只涉及E1与E2的公共属性关系代数表达式等
价变换规则(续)10.投影与笛卡尔积的分配律 设E1和E2是两个关系表达式,A1,…,An是E1的属性,B1,…,Bm是E2
的属性,则(E1×E2)≡(E1)×
(E2)11.投影与并的分配律 设E1和E2有相同的属性名,则 (E1∪E2)≡
(E1)∪(E2)9.3代数优化9.3.1关系代数表达式等价变换规则9
.3.2查询树的启发式优化9.3.2查询树的启发式优化典型的启发式规则:1.选择运算应尽可能先做。在优化策略中
这是最重要、最基本的一条2.把投影运算和选择运算同时进行如有若干投影和选择运算,并且它们都对同一个关系操作,则可以在扫描此关
系的同时完成所有的这些运算以避免重复扫描关系查询树的启发式优化(续)3.把投影同其前或其后的双目运算结合起来4.把某些选
择同在它前面要执行的笛卡尔积结合起来成为一个连接运算5.找出公共子表达式如果这种重复出现的子表达式的结果不是很大的关系并且从
外存中读入这个关系比计算该子表达式的时间少得多,则先计算一次公共子表达式并把结果写入中间文件是合算的当查询的是视图时,定义视图的
表达式就是公共子表达式的情况查询树的启发式优化(续)遵循这些启发式规则,应用9.3.1的等价变换公式来优化关系表达式的算法。
算法:关系表达式的优化 输入:一个关系表达式的查询树 输出:优化的查询树 方法: (1)利用等价变换规则4把形如σF1
∧F2∧…∧Fn(E)变换为σF1(σF2(…(σFn(E))…))。 (2)对每一个选择,利用等价变换规则4~9尽可能把它移
到树的叶端。查询树的启发式优化(续) (3)对每一个投影利用等价变换规则3,5,10,11中的一般形式尽可能把它移向树的叶端
。注意:等价变换规则3使一些投影消失规则5把一个投影分裂为两个,其中一个有可能被移向树的叶端 (4)利用等价变换规则
3~5把选择和投影的串接合并成单个选择、单个投影或一个选择后跟一个投影。使多个选择或投影能同时执行,或在一次扫描中全部完成查
询树的启发式优化(续)(5)把上述得到的语法树的内节点分组。每一双目运算(×,,∪,-)和它所有的直接祖先为一组(
这些直接祖先是(σ,π运算)。如果其后代直到叶子全是单目运算,则也将它们并入该组但当双目运算是笛卡尔积(×),而且后面不是与它
组成等值连接的选择时,则不能把选择与这个双目运算组成同一组,把这些单目运算单独分为一组查询树的启发式优化(续)[例4]
下面给出[例3]中SQL语句的代数优化示例。(1)把SQL语句转换成查询树,如下图所示 查询树的启发式优
化(续) 为了使用关系代数表达式的优化法,假设内部表示是关系代数语法树,则上面的查询树如下图所示。查询树的启发式优化(续)
(2)对查询树进行优化利用规则4、6把选择σSC.Cno=‘2’移到叶端,查询树便转换成下图所示的优化的查询树。这就是9.2
.2节中Q3的查询树表示第九章关系系统及其查询优化9.1关系数据库系统的查询处理9.2关系数据库系统的查询优化
9.3代数优化9.4物理优化9.5小结9.4物理优化代数优化改变查询语句中操作的次序和组合,不涉及底层
的存取路径对于一个查询语句有许多存取方案,它们的执行效率不同,仅仅进行代数优化是不够的物理优化就是要选择高效合理的操作
算法或存取路径,求得优化的查询计划物理优化(续)选择的方法:基于规则的启发式优化基于代价估算的优化两者结合的优化
方法9.4物理优化9.4.1基于启发式规则的存取路径选择优化9.4.2基于代价的优化9.4.1基于启发式
规则的存取路径选择优化一、选择操作的启发式规则二、连接操作的启发式规则基于启发式规则的存取路径选择优化(续)一、
选择操作的启发式规则: 1.对于小关系,使用全表顺序扫描,即使选择列上有索引 对于大关系,启发式规则有: 2.对于选
择条件是主码=值的查询查询结果最多是一个元组,可以选择主码索引一般的RDBMS会自动建立主码索引。 基于启发式规则的存取路
径选择优化(续)3.对于选择条件是非主属性=值的查询,并且选择列上有索引要估算查询结果的元组数目如果比例较小(<10%)可
以使用索引扫描方法否则还是使用全表顺序扫描基于启发式规则的存取路径选择优化(续) 4.对于选择条件是属性上的非等值查询或
者范围查询,并且选择列上有索引要估算查询结果的元组数目如果比例较小(<10%)可以使用索引扫描方法否则还是使用全表顺序扫描
基于启发式规则的存取路径选择优化(续) 5.对于用AND连接的合取选择条件如果有涉及这些属性的组合索引优先采用组合索
引扫描方法如果某些属性上有一般的索引则可以用[例1-C4]中介绍的索引扫描方法否则使用全表顺序扫描。 6.对于用OR连接
的析取选择条件,一般使用全表顺序扫描基于启发式规则的存取路径选择优化(续)二、连接操作的启发式规则: 1.如果2个表都已
经按照连接属性排序选用排序-合并方法 2.如果一个表在连接属性上有索引选用索引连接方法 3.如果上面2个规则都不适
用,其中一个表较小选用Hashjoin方法 基于启发式规则的存取路径选择优化(续)4.可以选用嵌套循环方法,并选择其
中较小的表,确切地讲是占用的块数(b)较少的表,作为外表(外循环的表)。理由:设连接表R与S分别占用的块数为Br与B
s连接操作使用的内存缓冲区块数为K分配K-1块给外表如果R为外表,则嵌套循环法存取的块数为Br+(Br/K-1)Bs显然
应该选块数小的表作为外表9.4物理优化(续)9.4.1基于启发式规则的存取路径选择优化9.4.2基于代价
的优化9.4.2基于代价的优化启发式规则优化是定性的选择,适合解释执行的系统解释执行的系统,优化开销包含在查询总开销
之中编译执行的系统中查询优化和查询执行是分开的可以采用精细复杂一些的基于代价的优化方法基于代价的优化(续)一、统计
信息二、代价估算示例基于代价的优化(续)一、统计信息基于代价的优化方法要计算各种操作算法的执行代价,与数据库的
状态密切相关数据字典中存储的优化器需要的统计信息:1.对每个基本表该表的元组总数(N)元组长度(l)占用的块数(
B)占用的溢出块数(BO)基于代价的优化(续) 2.对基表的每个列该列不同值的个数(m)选择率(f)如果不同值的分布
是均匀的,f=1/m如果不同值的分布不均匀,则每个值的选择率=具有该值的元组数/N该列最大值该列最小值该列上是否已经建立了
索引索引类型(B+树索引、Hash索引、聚集索引) 基于代价的优化(续)3.对索引(如B+树索引)索引的层数(L)不
同索引值的个数索引的选择基数S(有S个元组具有某个索引值)索引的叶结点数(Y)基于代价的优化(续)二、代价估算示例
全表扫描算法的代价估算公式如果基本表大小为B块,全表扫描算法的代价cost=B如果选择条件是码=值,那么平均搜索代价
cost=B/2基于代价的优化(续)2.索引扫描算法的代价估算公式如果选择条件是码=值如[例1-C2],则采用该表的
主索引若为B+树,层数为L,需要存取B+树中从根结点到叶结点L块,再加上基本表中该元组所在的那一块,所以cost=L+1如果选
择条件涉及非码属性如[例1-C3],若为B+树索引,选择条件是相等比较,S是索引的选择基数(有S个元组满足条件)最坏的情况下,
满足条件的元组可能会保存在不同的块上,此时,cost=L+S基于代价的优化(续)如果比较条件是>,>=,<,<=操作假设有
一半的元组满足条件就要存取一半的叶结点通过索引访问一半的表存储块cost=L+Y/2+B/2如果可以获得更准确的选择基数,可以
进一步修正Y/2与B/2基于代价的优化(续)3.嵌套循环连接算法的代价估算公式9.4.1中已经讨论过了嵌套循环连接算法的代
价cost=Br+Bs/(K-1)Br如果需要把连接结果写回磁盘,cost=Br+Bs/(K-1)Br+(Fr
sNrNs)/Mrs其中Frs为连接选择性(joinselectivity),表示连接结果元组数的比例Mrs是存放连接结果的块因子,表示每块中可以存放的结果元组数目。基于代价的优化(续)4.排序-合并连接算法的代价估算公式如果连接表已经按照连接属性排好序,则cost=Br+Bs+(FrsNrNs)/Mrs。如果必须对文件排序需要在代价函数中加上排序的代价对于包含B个块的文件排序的代价大约是(2B)+(2Blog2B)第九章关系系统及其查询优化9.1关系数据库系统的查询处理9.2关系数据库系统的查询优化9.3代数优化9.4物理优化9.5小结9.5小结查询处理是RDBMS的核心,查询优化技术是查询处理的关键技术本章讲解的优化方法启发式代数优化基于规则的存取路径优化基于代价的优化本章的目的:希望读者掌握查询优化方法的概念和技术小结(续)比较复杂的查询,尤其是涉及连接和嵌套的查询不要把优化的任务全部放在RDBMS上应该找出RDBMS的优化规律,以写出适合RDBMS自动优化的SQL语句对于RDBMS不能优化的查询需要重写查询语句,进行手工调整以优化性能下课了。。。优化后的查询树查询树关系代数语法树数据库系统概论AnIntroductiontoDatabaseSystem第九章关系查询处理和查询优化查询处理步骤200215121200215122200215123200215124...200215121192200215121285200215121388200215122290200215122380...排序-合并连接方法示意图
献花(0)
+1
(本文系小海的幸福...首藏)