高效率SQL的基础知识

一个高效率的数据库系统是从两个方面来评价的:响应时间和吞吐量。

在应用系统开发阶段,由于开发库上的数据比较少,在SQL语句的编写上感觉不出各种写法的性能差异,在将应用系统提交实际应用后,随着数据库中数据的增加,系统的响应速度就会成为最需要解决的主要问题之一。

缩短系统的响应时间,增加操作的并发度,可以提高系统的吞吐量。要缩短系统的响应时间,就需要可以高效率执行的SQL语句。高效SQL语句的基本原则,是充分合理的利用索引,避免表扫描。

1.理解索引

大多数情况下,数据库使用索引来检索表,优化器根据用户定义的索引来提高执行性能。但是,如果在SQL语句的where子句中写的SQL代码不合理,就会造成优化器忽略索引而采用全表扫描,而这种SQL语句就是所谓的劣质SQL语句。在编写SQL语句时需要了解优化器根据何种原则来使用索引,这将有助于写出高性能的SQL语句。

2.IS NULL IS NOT NULL

NULL值做条件时,将无法使用包含NULL值的列上的索引。即使索引有多列这样的情况下,只要这些列中有一列含有null,该列就会从索引中排除。也就是说如果某列存在空值,在使用NULL值做条件时,即使对该列建索引也不会提高性能。

 

3.列的联接

本节应该阐述列被包含到表达式中导致不能使用索引。

对于有联接的列,即使最后的联接值为一个静态值,优化器是不会使用索引的。

例:假定有一个职工表(employee),对于一个职工的姓和名分成两列存放(FIRST_NAMELAST_NAME),现在要查询一个叫比尔.克林顿(Bill Cliton)的职工。

 

下面是一个采用联接查询的SQL语句,

 

select * from employss

where first_name||''||last_name ='Bill Cliton';

 

改进方法:

 

select * from employee

where first_name = ‘Bill’ and last_name = ‘Cliton’

 

4.带通配符(%)的like语句

 

select * from employee where last_name like '%cliton%';

 

由于通配符(%)在搜寻词首出现,所以数据库将不使用last_name的索引。在很多情况下可能无法避免这种情况,但是一定要心中有数,通配符如此使用会降低查询速度。

 

当通配符出现在字符串其他位置时,优化器就能利用索引。在下面的查询中索引得到了使用:

 

select * from employee where last_name like 'c%';

 

5.Order by语句

 

ORDER BY语句决定了数据库如何将返回的查询结果排序。Order by语句对要排序的列没有什么特别的限制,也可以将函数加入列中(象联接或者附加等)。任何在Order by语句的非索引项或者有计算表达式都将降低查询速度。

 

需要仔细检查order by语句以找出非索引项或者表达式,它们会降低性能。

 

解决这个问题的办法就是重写order by语句以使用索引,也可以为所使用的列建立另外一个索引,同时应绝对避免在order by子句中使用表达式。

6.NOT

not (status ='VALID')(status<>'VALID')哪个效率更高?

salary<>3000 salary<3000 or salary>3000 salary<2999 or salary>=3001(假设是整数)哪一个效率更高?

where子句使用一些逻辑表达式,如大于、小于、等于以及不等于等等,也可以使用and(与)、or(或)以及not(非)。NOT可用来对任何逻辑运算符号取反。

 

例:

... where not (status ='VALID')

 

要使用NOT,则应在取反的短语前面加上括号,并在短语前面加上NOT运算符。NOT运算符包含在另外一个逻辑运算符中,这就是不等于(<>)运算符。换句话说,即使不在查询where子句中显式地加入NOT词,NOT仍在运算符中,见下例:

... where status <>'INVALID';

 

再例:

select * from employee where salary<>3000;

 

解决方法,不使用NOT

select * from employee where salary<3000 or salary>3000;

 

这两种查询的结果一样,但是第二种查询方案会比第一种查询方案更快些。第二种查询会对salary列使用索引,而第一种查询则不会使用索引。

 

7.INEXISTS

 

将一列和一系列值相比较,常用的方法是在where子句中使用子查询。

 

where子句中可以使用两种格式的子查询。

 

第一种格式是使用IN操作符:

 

... where column in(select * from ... where ...);

 

第二种格式是使用EXIST操作符:

 

... where exists (select 'X' from ...where ...);

 

采用第二种格式要比第一种格式的效率高。

第二种格式中,子查询以‘select 'X'开始。运用EXISTS子句不管子查询从表中抽取什么数据它只查看where子句。这样优化器就不必遍历整个表而仅根据索引就可完成工作(这里假定在where语句中使用的列存在索引)。

 

使用EXIST,数据库系统会首先检查主查询,然后运行子查询直到它找到第一个匹配项。

使用IN子查询时,首先执行子查询,并将获得的结果列表存放在在一个加了索引的临时表中。在执行子查询之前,系统先将主查询挂起,待子查询执行完毕,存放在临时表中以后再执行主查询。

 

所以使用EXISTS通常比使用IN查询速度快。

 

应尽可能使用NOT EXISTS来代替NOT IN,尽管二者都使用了NOT(不能使用索引而降低速度),但NOT EXISTS要比NOT IN查询效率高。

 

8.不充份的连接条件

 

例:表card7896行,在card_no上有一个非聚集索引,表account191122行,在 account_no上有一个非聚集索引,在不同的表连接条件下,两个SQL的执行情况:

 

(

一种索引,该索引中键值的逻辑顺序决定了表中相应行的物理顺序。
聚集索引确定表中数据的物理顺序。聚集索引类似于电话簿,后者按姓氏排列数据。由于聚集索引规定数据在表中的物理存储顺序,因此一个表只能包含一个聚集索引。但该索引可以包含多个列(组合索引),就像电话簿按姓氏和名字进行组织一样。

聚集索引对于那些经常要搜索范围值的列特别有效。使用聚集索引找到包含第一个值的行后,便可以确保包含后续索引值的行在物理相邻。例如,如果应用程序执行 的一个查询经常检索某一日期范围内的记录,则使用聚集索引可以迅速找到包含开始日期的行,然后检索表中所有相邻的行,直到到达结束日期。这样有助于提高此 类查询的性能。同样,如果对从表中检索的数据进行排序时经常要用到某一列,则可以将该表在该列上聚集(物理排序),避免每次查询该列时都进行排序,从而节 省成本。

当索引值唯一时,使用聚集索引查找特定的行也很有效率。例如,使用唯一雇员 ID emp_id 查找特定雇员的最快速的方法,是在 emp_id 列上创建聚集索引或 PRIMARY KEY 约束。

)

 

select sum(a.amount) from account a,card b

where a.card_no = b.card_no20秒)

 

SQL改为:

select sum(a.amount) from account a,card b

where a.card_no = b.card_no

and a.account_no=b.account_no< 1秒)

 

在第一个连接条件下,最佳查询方案是将account作外层表,card作内层表,利用card上的索引,其I/O次数可由以下公式估算为:

 

外层表account上的22541+(外层表account191122*内层表card上对应外层表第一行所要查找的3页)=595907I/O

 

在第二个连接条件下,最佳查询方案是将card作外层表,account作内层表,利用account上的索引,其I/O次数可由以下公式估算为:

 

外层表card上的1944+(外层表card7896*内层表account上对应外层表每一行所要查找的4页)= 33528I/O

 

只有充份的连接条件,真正的最佳方案才会被执行。

 

多表操作在被实际执行前,查询优化器会根据连接条件,列出几组可能的连接方案并从中找出系统开销最小的最佳方案。

 

连接条件要充份考虑带有索引的表、行数多的表;

 

内外表的选择可由公式:外层表中的匹配行数*内层表中每一次查找的次数确定,乘积最小为最佳方案。

 

9.不可优化的where子句

 

  • 下列SQL条件语句中的列都建有恰当的索引,但执行速度却非常慢

 

select * from record where

substring(card_no,1,4)='5378'(13)

 

select * from record where

amount/30< 100011秒)

 

select * from record where

convert(char(10),date,112)='19991201'10秒)

 

分析:

where子句中对列的任何操作结果都是在SQL运行时逐列计算得到的,因此它不得不进行表搜索,而没有使用该列上面的索引;如果这些结果在查询编译时就能得到,那么就可以被SQL优化器优化,使用索引,避免表搜索,因此将SQL重写成下面这样:

 

select * from record where card_no like

'5378%'< 1秒)

 

select * from record where amount

< 1000*30< 1秒)

 

select * from record where date= '1999/12/01'

< 1秒)

 

  • stuff200000行,id_no上有非群集索引,如下:

 

select count(*) from stuff where id_no in('0','1')

23秒)

 

分析:

 

where条件中的'in'在逻辑上相当于'or',所以语法分析器会将in ('0','1')转化为id_no ='0' or id_no='1'来执行。我们期望它会根据每个or子句分别查找,再将结果相加,这样可以利用id_no上的索引;但实际上(根据showplan,它却采用了"OR策略",即先取出满足每个or子句的行,存入临时数据库的工作表中,再建立唯一索引以去掉重复行,最后从这个临时表中计算结果。因此,实际过程没有利用id_no上索引,并且完成时间还要受tempdb数据库性能的影响。

 

表的行数越多,工作表的性能就越差,将or子句分开:

 

select count(*) from stuff where id_no='0'

select count(*) from stuff where id_no='1'

 

得到两个结果,再作一次加法合算。因为每句都使用了索引,执行时间只有3秒,在620000行下,时间只有4秒。

 

更好的方法,写一个简单的存储过程:

 

create proc count_stuff as

declare @a int

declare @b int

declare @c int

declare @d char(10)

begin

select @a=count(*) from stuff where id_no='0'

select @b=count(*) from stuff where id_no='1'

end

select @c=@a+@b

select @d=convert(char(10),@c)

print @d

 

直接算出结果,执行时间同上面一样快。

 

10.小结

 

所谓优化即where子句利用了索引,不可优化即发生了表扫描或额外开销。

 

  • 任何对列的操作都将导致表扫描,它包括数据库函数、计算表达式等等,查询时要尽可能将操作移至等号右边。 左右不重要,重要的是表达式中是否包含列。
  • inor子句常会使用工作表,使索引失效;如果不产生大量重复值,可以考虑把子句拆开;拆开的子句中应该包含索引。
  • 要善于使用存储过程,它使SQL变得更加灵活和高效。

 

SQL优化的实质就是在结果正确的前提下,用优化器可以识别的语句,充份利用索引,减少表扫描的I/O次数,尽量避免表搜索的发生。

 

11.不合理的索引设计

例:表record620000行,试看在不同的索引下,下面几个 SQL的运行情况:

 

  • date上建有一非个群集索引

 

select count(*) from record where date >

'19991201' and date < '19991214'and amount > 2000

(25)

 

select date,sum(amount) from record group by date

(55)

 

select count(*) from record where date >

'19990901' and place in ('BJ','SH')

(27)

 

分析:

 

date上有大量的重复值,在非群集索引下,数据在物理上随机存放在数据页上,在范围查找时,必须执行一次表扫描才能找到这一范围内的全部行。

 

  • date上的一个群集索引

 

select count(*) from record where date >

'19991201' and date < '19991214' and amount >

2000 14秒)

 

select date,sum(amount) from record group by date

28秒)

 

select count(*) from record where date >

'19990901' and place in ('BJ','SH')14秒)

 

分析:

 

在群集索引下,数据在物理上按顺序在数据页上,重复值也排列在一起,因而在范围查找时,可以先找到这个范围的起末点,且只在这个范围内扫描数据页,避免了大范围扫描,提高了查询速度。

 

  • placedateamount上的组合索引

 

select count(*) from record where date >

'19991201' and date < '19991214' and amount >

2000

26秒)

 

select date,sum(amount) from record group by date

27秒)

 

select count(*) from record where date >

'19990901' and place in ('BJ, 'SH')

< 1秒)

 

分析:

 

这是一个不很合理的组合索引,因为它的前导列是place,第一和第二条SQL没有引用place,因此也没有利用上索引;第三个SQL使用了place,且引用的所有列都包含在组合索引中,形成了索引覆盖,所以它的速度是非常快的。

 

12.合理的索引设计

  • dateplaceamount上的组合索引

 

select count(*) from record where date >

'19991201' and date < '19991214' and amount >

2000(< 1)

 

select date,sum(amount) from record group by date

11秒)

 

select count(*) from record where date >

'19990901' and place in ('BJ','SH')

< 1秒)

 

分析:

这是一个合理的组合索引。它将date作为前导列,使每个SQL都可以利用索引,并且在第一和第三个SQL中形成了索引覆盖,因而性能达到了最优。

 

缺省情况下建立的索引是非群集索引,但有时它并不是最佳的;合理的索引设计要建立在对各种查询的分析和预测上。一般来说:

 

  • 有大量重复值、且经常有范围查询 ,如:(between, >,< >=,< =)和order bygroup by发生的列,可考虑建立群集索引
  • 经常同时存取多列,且每列都含有重复值可考虑建立组合索引;
  • 组合索引要尽量使关键查询形成索引覆盖,其前导列一定是使用最频繁的列。

13.过多的索引会降低更新和插入操作的速度

索引并非越多越好,过多的索引会降低更新和插入操作的速度。

发表评论