SQL优化之SQL 进阶技巧(上)

因为工做须要,最近作了不少 BI 取数的工做,须要用到一些比较高级的 SQL 技巧,总结了一下工做中用到的一些比较骚的进阶技巧,特此记录一下,以方便本身查阅,主要目录以下:html

  • SQL 的书写规范
  • SQL 的一些进阶使用技巧
  • SQL 的优化方法

SQL 的书写规范

在介绍一些技巧以前,有必要强调一下规范,这一点我发现工做中常常被人忽略,其实遵循好的规范可读性会好不少,应该遵循哪些规范呢sql

一、 表名要有意义,且标准 SQL 中规定表名的第一个字符应该是字母。编程

二、注释,有单行注释和多行注释,以下性能优化

-- 单行注释
-- 从SomeTable中查询col_1 
SELECT col_1
  FROM SomeTable;
/*
多行注释
从 SomeTable 中查询 col_1 
*/
SELECT col_1
  FROM SomeTable;

多行注释不少人不知道,这种写法不只能够用来添加真正的注释,也能够用来注释代码,很是方便编程语言

三、缩进函数

就像写 Java,Python 等编程语言同样 ,SQL 也应该有缩进,良好的缩进对提高代码的可读性帮助很大,如下分别是好的缩进与坏的缩进示例post

性能

-- 好的缩进 SELECT col_1,      col_2,      col_3, COUNT(*)  FROM tbl_A WHERE col_1 = 'a' AND col_2 = ( SELECT MAX(col_2) FROM tbl_B WHERE col_3 = 100 ) GROUP BY col_1,           col_2,           col_3-- 坏的示例
SELECT col1_1, col_2, col_3, COUNT(*)
FROM   tbl_A
WHERE  col1_1 = 'a'
AND    col1_2 = (
SELECT MAX(col_2)
FROM   tbl_B
WHERE  col_3 = 100
) GROUP BY col_1, col_2, col_3

四、空格优化

代码中应该适当留有一些空格,若是一点不留,代码都凑到一块儿, 逻辑单元不明确,阅读的人也会产生额外的压力,如下分别是是好的与坏的示例spa

-- 好的示例 SELECT col_1 FROM tbl_A A, tbl_B B WHERE ( A.col_1 >= 100 OR A.col_2 IN ( 'a', 'b' ) ) AND A.col_3 = B.col_3;-- 坏的示例
SELECT col_1
  FROM tbl_A A,tbl_B B
 WHERE (A.col_1>=100 OR A.col_2 IN ('a','b'))
   AND A.col_3=B.col_3;

四、大小写

关键字使用大小写,表名列名使用小写,以下

SELECT col_1, col_2, col_3,
COUNT(*)
FROM tbl_A
WHERE col_1 = 'a'
AND col_2 = ( SELECT MAX(col_2)
FROM tbl_B
WHERE col_3 = 100 )
GROUP BY col_1, col_2, col_3

花了这么多时间强调规范,有必要吗,有!好的规范让代码的可读性更好,更有利于团队合做,以后的 SQL 示例都会遵循这些规范。

SQL 的一些进阶使用技巧

1、巧用 CASE WHEN 进行统计

来看看如何巧用 CASE WHEN 进行定制化统计,假设咱们有以下的需求,但愿根据左边各个市的人口统计每一个省的人口

SQL 进阶技巧(上)

使用 CASE WHEN 以下

SELECT CASE pref_name
WHEN '长沙' THEN '湖南'
WHEN '衡阳' THEN '湖南'
WHEN '海口' THEN '海南'
WHEN '三亚' THEN '海南'
ELSE '其余' END AS district,
SUM(population) 
FROM PopTbl
GROUP BY district;

2、巧用 CASE WHEN 进行更新

如今某公司员人工资信息表以下:

SQL 进阶技巧(上)

如今公司出台了一个奇葩的规定

  1. 对当前工资为 1 万以上的员工,降薪 10%。
  2. 对当前工资低于 1 万的员工,加薪 20%。

一些人不假思索可能写出了如下的 SQL:

--条件1
UPDATE Salaries
SET salary = salary * 0.9 WHERE salary >= 10000;
--条件2
UPDATE Salaries
SET salary = salary * 1.2
WHERE salary < 10000;

这么作实际上是有问题的, 什么问题,对小明来讲,他的工资是 10500,执行第一个 SQL 后,工资变为 10500 * 0.9 = 9450, 紧接着又执行条件 2, 工资变为了 9450 * 1.2 = 11340,反而涨薪了!

若是用 CASE WHEN 能够解决此类问题,以下:

UPDATE Salaries
SET salary = CASE WHEN salary >= 10000 THEN salary * 0.9
WHEN salary < 10000 THEN salary * 1.2
ELSE salary END;

3、巧用 HAVING 子句

通常 HAVING 是与 GROUP BY 结合使用的,但其实它是能够独立使用的, 假设有以下表,第一列 seq 叫连续编号,但其实有些编号是缺失的,怎么知道编号是否缺失呢,

SQL 进阶技巧(上)

用 HAVING 表示以下:

SELECT '存在缺失的编号' AS gap
FROM SeqTbl
HAVING COUNT(*) <> MAX(seq);

4、自链接

针对相同的表进行的链接被称为“自链接”(self join),这个技巧经常被人们忽视,实际上是有挺多妙用的

一、删除重复行

SQL 进阶技巧(上)

上图中有三个橘子,须要把这些重复的行给删掉,用以下自链接能够解决:

DELETE FROM Products P1
WHERE id < ( SELECT MAX(P2.id) 
FROM Products P2 
WHERE P1.name = P2.name 
AND P1.price = P2.price ); 

二、排序

在 db 中,咱们常常须要按分数,人数,销售额等进行排名,有 Oracle, DB2 中可使用 RANK 函数进行排名,不过在 MySQL 中 RANK 函数未实现,这种状况咱们可使用自链接来实现,如对如下 Products 表按价格高低进行排名

SQL 进阶技巧(上)

使用自链接能够这么写:

-- 排序从 1 开始。若是已出现相同位次,则跳过以后的位次 
SELECT P1.name,
       P1.price,
       (SELECT COUNT(P2.price)
FROM Products P2
WHERE P2.price > P1.price) + 1 AS rank_1
FROM Products P1 
ORDER BY rank_1;

结果以下:

name       price      rank 
-----      ------     ------ 
橘子     100     1 
西瓜     80     2 
苹果     50     3 
葡萄     50     3 
香蕉     50     3 
柠檬     30     6

5、巧用 COALESCE 函数

此函数做用返回参数中的第一个非空表达式,假设有以下商品,咱们从新格式化同样,若是 city 为 null,表明商品不在此城市发行,但咱们在展现结果的时候不想展现 null,而想展现 'N/A', 能够这么作:

SELECT
COALESCE(city, 'N/A')
FROM
    customers;
SQL 进阶技巧(上)

SQL 性能优化技巧

1、参数是子查询时,使用 EXISTS 代替 IN

若是 IN 的参数是(1,2,3)这样的值列表时,没啥问题,但若是参数是子查询时,就须要注意了。好比,如今有以下两个表:

SQL 进阶技巧(上)

如今咱们要查出同时存在于两个表的员工,即田中和铃木,则如下用 IN 和 EXISTS 返回的结果是同样,可是用 EXISTS 的 SQL 会更快:

-- 慢
SELECT * 
FROM Class_A
WHERE id IN (SELECT id
FROM  CLASS_B);

-- 快
SELECT *
  FROM Class_A A 
 WHERE EXISTS
(SELECT * 
   FROM Class_B  B
  WHERE A.id = B.id);

 

为啥使用 EXISTS 的 SQL 运行更快呢,有两个缘由

  1. 能够`用到索引,若是链接列 (id) 上创建了索引,那么查询 Class_B 时不用查实际的表,只需查索引就能够了。
  2. 若是使用 EXISTS,那么只要查到一行数据知足条件就会终止查询, 不用像使用 IN 时同样扫描全表。在这一点上 NOT EXISTS 也同样

另外若是 IN 后面若是跟着的是子查询,因为 SQL 会先执行 IN 后面的子查询,会将子查询的结果保存在一张临时的工做表里(内联视图),而后扫描整个视图,显然扫描整个视图这个工做不少时候是很是耗时的,而用 EXISTS 不会生成临时表。

固然了,若是 IN 的参数是子查询时,也能够用链接来代替,以下:

-- 使用链接代替 IN SELECT A.id, A.name
FROM Class_A A INNER JOIN Class_B B ON A.id = B.id;

用到了 「id」列上的索引,并且因为没有子查询,也不会生成临时表

2、避免排序

SQL 是声明式语言,即对用户来讲,只关心它能作什么,不用关心它怎么作。这样可能会产生潜在的性能问题:排序,会产生排序的表明性运算有下面这些

  • GROUP BY 子句
  • ORDER BY 子句
  • 聚合函数(SUM、COUNT、AVG、MAX、MIN)
  • DISTINCT
  • 集合运算符(UNION、INTERSECT、EXCEPT)
  • 窗口函数(RANK、ROW_NUMBER 等)

若是在内存中排序还好,但若是内存不够致使须要在硬盘上排序上的话,性能就会急剧降低,因此咱们须要减小没必要要的排序。怎样作能够减小排序呢。

一、 使用集合运算符的 ALL 可选项

SQL 中有 UNION,INTERSECT,EXCEPT 三个集合运算符,默认状况下,这些运算符会为了不重复数据而进行排序,对比一下使用 UNION 运算符加和不加 ALL 的状况:

SQL 进阶技巧(上)

注意:加 ALL 是优化性能很是有效的手段,不过前提是不在意结果是否有重复数据。

二、使用 EXISTS 表明 DISTINCT

为了排除重复数据, DISTINCT 也会对结果进行排序,若是须要对两张表的链接结果进行去重,能够考虑用 EXISTS 代替 DISTINCT,这样能够避免排序。

SQL 进阶技巧(上)

如何找出有销售记录的商品,使用以下 DISTINCT 能够:

SELECT DISTINCT I.item_no
FROM Items I INNER JOIN SalesHistory SH
ON I. item_no = SH. item_no;

不过更好的方式是使用 EXISTS:

SELECT item_no FROM Items I
WHERE EXISTS
        (SELECT *
FROM SalesHistory SH
WHERE I.item_no = SH.item_no);

既用到了索引,又避免了排序对性能的损耗。

3、在极值函数中使用索引(MAX/MIN)

使用 MAX/ MIN 都会对进行排序,若是参数字段上没加索引会致使全表扫描,若是建有索引,则只须要扫描索引便可,对好比下

-- 这样写须要扫描全表 
SELECT MAX(item)
FROM Items;

-- 这样写能用到索引 
SELECT MAX(item_no)
  FROM Items;

注意:极值函数参数推荐为索引列中并非不须要排序,而是优化了排序前的查找速度(毕竟索引自己就是有序排列的)。

4、能写在 WHERE 子句里的条件不要写在 HAVING 子句里

下列 SQL 语句返回的结果是同样的:

-- 聚合后使用 HAVING 子句过滤
SELECT sale_date, SUM(quantity)
FROM SalesHistory GROUP BY sale_date
HAVING sale_date = '2007-10-01';

-- 聚合前使用 WHERE 子句过滤
SELECT sale_date, SUM(quantity)
  FROM SalesHistory
 WHERE sale_date = '2007-10-01' 
 GROUP BY sale_date;

使用第二条语句效率更高,缘由主要有两点

  1. 使用 GROUP BY 子句进行聚合时会进行排序,若是事先经过 WHERE 子句能筛选出一部分行,能减轻排序的负担
  2. 在 WHERE 子句中可使用索引,而 HAVING 子句是针对聚合后生成的视频进行筛选的,但不少时候聚合后生成的视图并无保留原表的索引结构

5、在 GROUP BY 子句和 ORDER BY 子句中使用索引

GROUP BY 子句和 ORDER BY 子句通常都会进行排序,以对行进行排列和替换,不过若是指定带有索引的列做为这二者的参数列,因为用到了索引,能够实现高速查询,因为索引是有序的,排序自己都会被省略掉

6、使用索引时,条件表达式的左侧应该是原始字段

假设咱们在 col 列上创建了索引,则下面这些 SQL 语句没法用到索引

SELECT *
FROM SomeTable
WHERE col * 1.1 > 100;

SELECT *
  FROM SomeTable
 WHERE SUBSTR(col, 1, 1) = 'a';

 

以上第一个 SQL 在索引列上进行了运算, 第二个 SQL 对索引列使用了函数,均没法用到索引,正确方式是把列单独放在左侧,以下:

SELECT *
FROM SomeTable
WHERE col_1 > 100 / 1.1;

固然若是须要对此列使用函数,则没法避免在左侧运算,能够考虑使用函数索引,不过通常不推荐随意这么作。

7、尽可能避免使用否认形式

以下的几种否认形式不能用到索引:

  • <>
  • !=
  • NOT IN

因此如下 了SQL 语句会致使全表扫描

SELECT *
FROM SomeTable
WHERE col_1 <> 100;

能够改为如下形式

SELECT *
FROM SomeTable
WHERE col_1 > 100 or col_1 < 100;

8、进行默认的类型转换

假设 col 是 char 类型,则推荐使用如下第二,三条 SQL 的写法,不推荐第一条 SQL 的写法

× SELECT * FROM SomeTable WHERE col_1 = 10;
○ SELECT * FROM SomeTable WHERE col_1 = '10';
○ SELECT * FROM SomeTable WHERE col_1 = CAST(10, AS CHAR(2));

虽然第一条 SQL 会默认把 10 转成 '10',但这种默认类型转换不只会增长额外的性能开销,还会致使索引不可用,因此建议使用的时候进行类型转换。

9、减小中间表

在 SQL 中,子查询的结果会产生一张新表,不过若是不加限制大量使用中间表的话,会带来两个问题,一是展现数据须要消耗内存资源,二是原始表中的索引不容易用到,因此尽可能减小中间表也能够提高性能。

10、灵活使用 HAVING 子句

这一点与上面第八条相呼应,对聚合结果指定筛选条件时,使用 HAVING 是基本的原则,可能一些工程师会倾向于使用下面这样的写法:

SELECT *
FROM (SELECT sale_date, MAX(quantity) AS max_qty
FROM SalesHistory 
GROUP BY sale_date) TMP
WHERE max_qty >= 10;

虽然上面这样的写法能达到目的,但会生成 TMP 这张临时表,因此应该使用下面这样的写法:

SELECT sale_date, MAX(quantity) 
FROM SalesHistory
GROUP BY sale_date
HAVING MAX(quantity) >= 10;

HAVING 子句和聚合操做是同时执行的,因此比起生成中间表后再执行 HAVING 子句,效率会更高,代码也更简洁

十、须要对多个字段使用 IN 谓词时,将它们汇总到一处

一个表的多个字段可能都使用了 IN 谓词,以下:

SELECT id, state, city 
FROM Addresses1 A1
WHERE state IN (SELECT state
FROM Addresses2 A2
WHERE A1.id = A2.id) 
AND city IN (SELECT city
FROM Addresses2 A2 
WHERE A1.id = A2.id);

这段代码用到了两个子查询,也就产生了两个中间表,能够像下面这样写

SELECT *
FROM Addresses1 A1
WHERE id || state || city
IN (SELECT id || state|| city
FROM Addresses2 A2);

这样子查询不用考虑关联性,没有中间表产生,并且只执行一次便可。

总结

本文一开始花了挺大的篇幅来说解 SQL 的规范,请你们务必重视这部份内部,良好的规范有利于团队协做,对于代码的阅读也比较友好。

以后介绍了一些 SQL 的比较高级的用法,巧用这些技巧确实能达到事半功倍的效果,因为本文篇幅有限只是介绍了一部分,下篇咱们会再介绍一些其余的技巧,敬请期待哦

相关文章

SQL优化之SQL 进阶技巧(下)

SQL优化之SELECT COUNT(*)

 
 
相关文章
相关标签/搜索