Oracle SQL 优化

Oracle SQL优化

1. 数据库性能：
   a. 影响数据库系统性能的要素：
   主机CPU,RAM,存储系统;
   OS参数配置,ORACLE参数配置;
   应用方面：数据库设计及SQL编程的质量
   b. 一个性能优秀的应用系统须要：
   良好的硬件配置；正确合理的数据库及中间件参数配置；合理的数据库设计；良好的sql编程；运行期的性能优化
2. Oracle SQL语句执行步骤
   Oracle中SQL语句执行过程当中,Oracle内部解析原理以下:
   一、当一用户第一次提交一个SQL表达式时,Oracle会将这SQL进行Hard parse,这过程有点像程序编译,检查语法、表名、字段名等相关信息（以下图），这过程会花比较长的时间，由于它要分析语句的语法与语义。而后得到最优化后的执行计划（sql plan），并在内存中分配必定的空间保存该语句与对应的执行计划等信息。
   二、当用户第二次请求或屡次请求时，Oracle会自动找到先前的语句与执行计划，而不会进行Hard parse,而是直接进行Soft parse（把语句对应的执行计划调出，而后执行）,从而减小数据库的分析时间。
   注意的是：Oracle中只能彻底相同的语句，包大小写、空格、换行都要求同样时，才会重复使用之前的分析结果与执行计划。
   分析过程以下图：

对于大量的、频繁访问的SQL语句，若是不采用Bind 变量的方式，哪Oracle会花费大量的Shared latch与CPU在作Hard parse处理，因此，要尽可能提升语句的重用率，减小语句的分析时间，经过了解Oracle SQL语句的分析过程能够明白Oracle的内部处理逻辑，并在设计与实现上避免。
在用JDBC或其它持久化数据(如Hibernate,JDO等)操做时，尽可能用占位符（？）
ORACLE sql 的处理过程大体以下：
1.运用HASH算法，获得一个HASH值，这个值能够经过V$SQLAREA.HASH_VALUE 查看
2.到shared pool 中的 library cache 中查找是否有相同的HASH值，若是存在，则无需硬解析，进行软解析
3.若是shared pool不存在此HASH值，则进行语法检查，查看是否有语法错误
4.若是没有语法错误，就进行语义检查，检查该SQL引用的对象是否存在，该用户是否具备访问该对象的权限
5.若是没有语义错误，对该SQL进行解析，生成解析树，执行计划
6.生成ORACLE能运行的二进制代码，运行该代码而且返回结果给用户。
硬解析和软解析都在第5步进行
硬解析一般是昂贵的操做，大约占整个SQL执行的70%左右的时间，硬解析会生成执行树，执行计划，等等。当再次执行同一条SQL语句的时候，因为发现library cache中有相同的HASH值，这个时候不会硬解析，而会软解析，那么软解析到底是干了什么呢?其实软解析就是跳过了生成解析树，生成执行计划这个耗时又耗CPU的操做，直接利用生成的执行计划运行该SQL语句。

1. Sql语句的执行顺序：

a. 解析(PARSE)：
a) 在共享池中查找SQL语句
b) 检查语法
c) 检查语义和相关的权限
d) 合并(MERGE)视图定义和子查询
e) 肯定执行计划
b. 绑定(BIND)：
a) 在语句中查找绑定变量
b) 赋值(或从新赋值)
c. 执行(EXECUTE)：
a) 应用执行计划
b) 执行必要的I/O和排序操做
d. 提取(FETCH)：
a) 从查询结果中返回记录
b) 必要时进行排序
c) 使用ARRAY FETCH机制

1. ORACLE 优化器模式概述
   Oracle的优化器共有两种的优化方式,即基于规则的优化方式(Rule-Based Optimization,简称为RBO)和基于代价的优化方式(Cost-Based Optimization,简称为CBO)。
   a. RBO方式：优化器在分析SQL语句时,所遵循的是Oracle内部预约的一些规则。好比咱们常见的,当一个where子句中的一列有索引时去走索引。
   b. CBO方式：是看语句的代价(Cost)了,这里的代价主要指Cpu和内存。优化器在判断是否用这种方式时,主要参照的是表及索引的统计信息，不少的时侯过时统计信息会令优化器作出一个错误的执行计划。
   c. 在Oracle8及之后的版本,Oracle推荐用CBO的方式。在Oracle10g中,取消了RBO的支持。
2. 访问数据表的方式
   a. 全表扫描
   全表扫描就是顺序地访问表中每条记录。Oracle采用一次读入多个数据块(database block)的方式优化全表扫描。
   b. 经过ROWID访问表
   ROWID包含了表中记录的物理位置信息。能够采用基于ROWID的访问方式状况提升访问表的效率。Oracle采用索引实现了数据和存放数据的物理位置(ROWID)之间的联系 一般索引提供了快速访问ROWID的方法，所以那些基于索引列的查询就能够获得性能的提升。
3. Oracle中sql语句的优化
   a. 选择最有效率的表名顺序(只在基于规则的优化器中有效)。
   ORACLE的解析器按照从右到左的顺序处理FROM子句中的表名，FROM子句中写在最后的表(基础表 driving table)将被最早处理，在FROM子句中包含多个表的状况下,你必须选择记录条数最少的表做为基础表。
   例如：表table1 16,384条记录，表TAB2 1条记录
   选择TAB2为基础表（最好的方法）
   Select count(*) from table1,tab2 执行时间0.96秒
   选择TAB1做为基础表（不佳的方法）
   Select count(*) from tab2, table1 执行时间26.09秒
   若是有3个以上的表链接查询, 那就须要选择交叉表(intersection table)做为基础表, 交叉表是指那个被其余表所引用的表.
   b. WHERE子句中的链接顺序。
   ORACLE采用自下而上的顺序解析WHERE子句,根据这个原理,表之间的链接必须写在其余WHERE条件以前, 那些能够过滤掉最大数量记录的条件必须写在WHERE子句的末尾.
   例如：
   （低效，执行时间156.3秒）
   Select … from emp e where sal > 50000 and job=’manager’ and 25 < (select count(*) from emp where mgr = e.empno);
   （高效，执行时间10.6秒）
   Select … from emp e where 25<(select count(*) from emp where mgr = e.empno) and sal > 50000 and job=’manager’;
   c. SELECT子句中避免使用 ‘ * ‘。
   ORACLE在解析的过程当中, 会将’*’ 依次转换成全部的列名, 这个工做是经过查询数据字典完成的, 这意味着将耗费更多的时间。
   减小访问数据库的次数：
   ORACLE在内部执行了许多工做: 解析SQL语句, 估算索引的利用率, 绑定变量 , 读数据块等；因而可知，减小访问数据库的次数，就能实际上减小oracle的工做量。
   例如，如下有两种方法能够检索出雇员号等于0342或0291的职员。
   方法一（最低效）
   Select ename,sal from emp where empno=342;
   Select ename,sal from emp where empno=291;
   方法二（高效）
   Select a.ename,a.sal,b.ename,b.sal from emp a,emp b where a.empno = 342 and b.empno = 291;
   d. 使用DECODE函数来减小处理时间。
   使用DECODE函数能够避免重复扫描相同记录或重复链接相同的表.
   e. 减小数据库的访问次数。
   若是你有几个简单的数据库查询语句,你能够把它们整合到一个查询中(即便它们之间没有关系)。
   f. 删除重复记录。
   最高效的删除重复记录方法 ( 由于使用了ROWID)例子：
   DELETE FROM EMP E WHERE E.ROWID > (SELECT MIN(X.ROWID)
   FROM EMP X WHERE X.EMP_NO = E.EMP_NO);
   g. 用TRUNCATE替代DELETE。
   当删除表中的记录时,在一般状况下, 回滚段(rollback segments ) 用来存放能够被恢复的信息. 若是你没有COMMIT事务,ORACLE会将数据恢复到删除以前的状态(准确地说是恢复到执行删除命令以前的情况) 而当运用TRUNCATE时, 回滚段再也不存听任何可被恢复的信息.当命令运行后,数据不能被恢复.所以不多的资源被调用,执行时间也会很短. (译者按: TRUNCATE只在删除全表适用,TRUNCATE是DDL不是DML
   h. 尽可能多使用COMMIT。
   只要有可能,在程序中尽可能多使用COMMIT, 这样程序的性能获得提升,需求也会由于COMMIT所释放的资源而减小:
   COMMIT所释放的资源:
   a) 回滚段上用于恢复数据的信息.
   b) 被程序语句得到的锁
   c) redo log buffer 中的空间
   d) ORACLE为管理上述3种资源中的内部花费
   i. 用Where子句替换HAVING子句。
   避免使用HAVING子句, HAVING 只会在检索出全部记录以后才对结果集进行过滤.
   通常用来处理须要排序,总计等操做. 若是能经过WHERE子句限制记录的数目,那就能减小这方面的开销.
   on、where、having这三个均可以加条件的子句中，on是最早执行，where次之，having最后，由于on是先把不符合条件的记录过滤后才进行统计，它就能够减小中间运算要处理的数据，按理说应该速度是最快的，where也应该比having快点的，由于它过滤数据后才进行sum，在两个表联接时才用on的，因此在一个表的时候，就剩下where跟having比较了。在这单表查询统计的状况下，若是要过滤的条件没有涉及到要计算字段，那它们的结果是同样的。在多表联接查询时，on比where更早起做用。系统首先根据各个表之间的联接条件，把多个表合成一个临时表后，再由where进行过滤，而后再计算，计算完后再由having进行过滤。因而可知，要想过滤条件起到正确的做用，首先要明白这个条件应该在何时起做用，而后再决定放在那里。
   j. 使用表的别名(Alias)：
   当在SQL语句中链接多个表时, 请使用表的别名并把别名前缀于每一个Column上.这样一来,就能够减小解析的时间并减小那些由Column歧义引发的语法错误。
   k. 用EXISTS替代IN、用NOT EXISTS替代NOT IN：
   在许多基于基础表的查询中,为了知足一个条件,每每须要对另外一个表进行联接.在这种状况下, 使用EXISTS(或NOT EXISTS)一般将提升查询的效率. 在子查询中,NOT IN子句将执行一个内部的排序和合并. 不管在哪一种状况下,NOT IN都是最低效的 (由于它对子查询中的表执行了一个全表遍历). 为了不使用NOT IN ,咱们能够把它改写成外链接(Outer Joins)或NOT EXISTS.
   例子：
   （高效）SELECT * FROM EMP (基础表) WHERE EMPNO > 0 AND EXISTS (SELECT ‘X’ FROM DEPT WHERE DEPT.DEPTNO = EMP.DEPTNO AND LOC = ‘MELB’)
   (低效)SELECT * FROM EMP (基础表) WHERE EMPNO > 0 AND DEPTNO IN(SELECT DEPTNO FROM DEPT WHERE LOC = ‘MELB’)
   l. 用EXISTS替换DISTINCT：
   当提交一个包含一对多表信息(好比部门表和雇员表)的查询时,避免在SELECT子句中使用DISTINCT. 通常能够考虑用EXISTS替换, EXISTS 使查询更为迅速,由于RDBMS核心模块将在子查询的条件一旦知足后,马上返回结果. 例子：
   (低效):
   SELECT DISTINCT DEPT_NO,DEPT_NAME FROM DEPT D , EMP E WHERE D.DEPT_NO = E.DEPT_NO
   (高效):
   SELECT DEPT_NO,DEPT_NAME FROM DEPT D WHERE EXISTS ( SELECT ‘X’ FROM EMP E WHERE E.DEPT_NO = D.DEPT_NO);
   m. sql语句用大写的；由于oracle老是先解析sql语句，把小写的字母转换成大写的再执行。
   n. 在java代码中尽可能少用链接符“＋”链接字符串！
   o. 用>=替代>
   高效:
   SELECT * FROM EMP WHERE DEPTNO >=4
   低效:
   SELECT * FROM EMP WHERE DEPTNO >3
   二者的区别在于, 前者DBMS将直接跳到第一个DEPT等于4的记录然后者将首先定位到DEPTNO=3的记录而且向前扫描到第一个DEPT大于3的记录。
   p. 用UNION替换OR (适用于索引列)
   一般状况下, 用UNION替换WHERE子句中的OR将会起到较好的效果. 对索引列使用OR将形成全表扫描. 注意, 以上规则只针对多个索引列有效. 若是有column没有被索引, 查询效率可能会由于你没有选择OR而下降. 在下面的例子中, LOC_ID 和REGION上都建有索引.
   高效:
   SELECT LOC_ID , LOC_DESC , REGION FROM LOCATION WHERE LOC_ID = 10 UNION SELECT LOC_ID , LOC_DESC , REGION FROM LOCATION WHERE REGION = “MELBOURNE”
   低效:
   SELECT LOC_ID , LOC_DESC , REGION FROM LOCATION WHERE LOC_ID = 10 OR REGION = “MELBOURNE”
   若是你坚持要用OR, 那就须要返回记录最少的索引列写在最前面。
   q. 避免在索引列上使用IS NULL和IS NOT NULL。
   避免在索引中使用任何能够为空的列，ORACLE将没法使用该索引．对于单列索引，若是列包含空值，索引中将不存在此记录. 对于复合索引，若是每一个列都为空，索引中一样不存在此记录.　若是至少有一个列不为空，则记录存在于索引中．
   低效: (索引失效)
   SELECT … FROM DEPARTMENT WHERE DEPT_CODE IS NOT NULL;
   高效: (索引有效)
   SELECT … FROM DEPARTMENT WHERE DEPT_CODE >=0;
   r. 用UNION-ALL 替换UNION ( 若是有可能的话)：
   当SQL语句须要UNION两个查询结果集合时,这两个结果集合会以UNION-ALL的方式被合并, 而后在输出最终结果前进行排序. 若是用UNION ALL替代UNION, 这样排序就不是必要了. 效率就会所以获得提升. 须要注意的是，UNION ALL 将重复输出两个结果集合中相同记录. 所以各位仍是要从业务需求分析使用UNION ALL的可行性。
   s. 优化GROUP BY:
   提升GROUP BY 语句的效率, 能够经过将不须要的记录在GROUP BY以前过滤掉.下面两个查询返回相同结果但第二个明显就快了许多.
   低效:
   SELECT JOB , AVG(SAL) FROM EMP GROUP by JOB HAVING JOB = ‘PRESIDENT’ OR JOB = ‘MANAGER’
   高效:
   SELECT JOB , AVG(SAL) FROM EMP WHERE JOB = ‘PRESIDENT’ OR JOB = ‘MANAGER’
   GROUP by JOB
   t. 避免使用前置通配符
   WHERE子句中, 若是索引列所对应的值的第一个字符由通配符(WILDCARD)开始, 索引将不被采用.
   SELECT USER_NO,USER_NAME,ADDRESS FROM USER_FILES WHERE USER_NO LIKE ‘%109204421’;
   在这种状况下，ORACLE将使用全表扫描.

u. 避免出现索引列自动转换
当比较不一样数据类型的数据时, ORACLE自动对列进行简单的类型转换.
假设EMP_TYPE是一个字符类型的索引列.
SELECT USER_NO,USER_NAME,ADDRESS FROM USER_FILES WHERE USER_NO = 109204421
这个语句被ORACLE转换为:
SELECT USER_NO,USER_NAME,ADDRESS FROM USER_FILES WHERE TO_NUMBER(USER_NO) = 109204421
由于内部发生的类型转换, 这个索引将不会被用到!
v. 在查询时尽可能少用格式转换
如用 WHERE a.order_no = b.order_no
不用 WHERE TO_NUMBER (substr(a.order_no, instr(b.order_no, ‘.’) - 1)
= TO_NUMBER (substr(a.order_no, instr(b.order_no, ‘.’) - 1)
w. 计算记录条数
和通常的观点相反, count(*) 比count(1)稍快 , 固然若是能够经过索引检索,对索引列的计数仍旧是最快的.
例如
COUNT(EMPNO)
x. 字符型字段的引号
好比有的表PHONE_NO字段是CHAR型,并且建立有索引，但在WHERE条件中忘记了加引号，就不会用到索引。
WHERE PHONE_NO=‘13920202022’
WHERE PHONE_NO=13920202022
7. 用EXPLAIN PLAN工具分析SQL语句：
EXPLAIN PLAN 是一个很好的分析SQL语句的工具,它甚至
能够在不执行SQL的状况下分析语句. 经过分析,咱们就能够
知道ORACLE是怎么样链接表,使用什么方式扫描表(索引扫
描或全表扫描)以及使用到的索引名称.
你须要按照从里到外,从上到下的次序解读分析的结果.
EXPLAIN PLAN分析的结果是用缩进的格式排列的, 最内部
的操做将被最早解读, 若是两个操做处于同一层中,带有最小
操做号的将被首先执行.
NESTED LOOP是少数不按照上述规则处理的操做, 正确的
执行路径是检查对NESTED LOOP提供数据的操做,其中操
做号最小的将被最早处理.

使用TKPROF 工具
SQL trace 工具收集正在执行的SQL的性能状态数据并记录到
一个跟踪文件中. 这个跟踪文件提供了许多有用的信息,例如解
析次数.执行次数,CPU使用时间等.这些数据将能够用来优化你
的系统.
设置SQL TRACE在会话级别: 有效
ALTER SESSION SET SQL_TRACE TRUE
设置SQL TRACE 在整个数据库有效, 你必须将SQL_TRACE
参数在init.ora中设为TRUE, USER_DUMP_DEST参数说明了
生成跟踪文件的目录
再使用TKPROF对TRACE文件进行分析
分析结果更加准确、清楚

在SQLPLUS 配置AUTOTRACE
AUTOTRACE 参数 解 释
SET AUTOTRACE OFF 不能得到AUTOTRACE报告. 这是默认的.
SET AUTOTRACE ON EXPLAIN 仅仅显示优化器执行计划的AUTOTRACE报告
SET AUTOTRACE ON STATISTICS 仅仅显示SQL语句执行的统计结果的
AUTOTRACE报告
SET AUTOTRACE ON 包括上面两项内容的AUTOTRACE报告
SET AUTOTRACE TRACEONLY 与SET AUTOTRACE ON相似,全部的统计和数
据都在，但不能够打印

在SQLPLUS 配置AUTOTRACE
一、 首先建立PLUSTRACE角色而且赋给public：
Sql> @$ORACLE_HOME/sqlplus/admin/plustrce.sql 二、 赋权限给用户 Sql> grant plustrace to public（预赋权的用户名）; 三、以SYSTEM用户建立PLAN_TABLE表 Sql> @$ORACLE_HOME/rdbms/admin/utlxplan.sql
Sql> create public synonym plan_table for plan_table;
Sql> grant all on plan_table to public;
在每一个用户下设置AUTOTRACE可显示其执行计划。

优化器与执行计划
SQL> select ename,dname from emp, dept where emp.deptno=dept.deptno and dept.dname in (‘ACCOUNTING’,’RESEARCH’,’SALES’,’OPERATIONS’);

Execution Plan

0 SELECT STATEMENT Optimizer=CHOOSE
1 0 NESTED LOOPS
2 1 TABLE ACCESS (FULL) OF ‘EMP’
3 1 TABLE ACCESS (BY INDEX ROWID) OF ‘DEPT’
4 3 INDEX (UNIQUE SCAN) OF ‘PK_DEPT’ (UNIQUE)
最起码要解决全表扫描问题
改变where条件的次序通常没有用

Oracle 优化器
 2 种类型的优化器：
• 基于规则的优化器
• 基于代价的优化器。
不一样之处：取得代价的方法与衡量代价的大小不一样。

基于规则的优化器 – Rule Based (Heuristic) Optimization(简称RBO)
 基于规则的优化器中采用启发式的方法(Heuristic Approach)或规则(Rules)来生成执行计划。例如，若是一个查询的where条件(where clause)包含一个谓词(predicate，其实就是一个判断条件，如”=”, “>”, ”<”等)，并且该谓词上引用的列上有有效索引，那么优化器将使用索引访问这个表，而不考虑其它因素，如表中数据的多少、表中数据的易变性、索引的可选择性等。此时数据库中没有关于表与索引数据的统计性描述，如表中有多上行，每行的可选择性等。优化器也不考虑实例参数，如multi block i/o、可用排序内存的大小等，因此优化器有时就选择了次优化的计划做为真正的执行计划，致使系统性能不高。
 如，对于 select * from emp where deptno = 10;
若是是使用基于规则的优化器，并且deptno列上有有效的索引，则会经过deptno列上的索引来访问emp表。在绝大多数状况下，这是比较高效的，可是在一些特殊状况下，使用索引访问也有比较低效的时候，现举例说明：
 1) emp表比较小，该表的数据只存放在几个数据块中。此时使用全表扫描比使用索引访问emp表反而要好。由于表比较小，极有可能数据全在内存中，因此此时作全表扫描是最快的。而若是使用索引扫描，须要先从索引中找到符合条件记录的rowid，而后再一一根据这些rowid从emp中将数据取出来，在这种条件下，效率就会比全表扫描的效率要差一些。
 2) emp表比较大时，并且deptno = 10条件能查询出表中大部分的数据如(50%)。如该表共有4000万行数据，共放在有500000个数据块中，每一个数据块为8k，则该表共有约4G，则这么多的数据不可能全放在内存中，绝大多数须要放在硬盘上。此时若是该查询经过索引查询，则是你梦魇的开始。db_file_multiblock_read_count参数的值200。若是采用全表扫描，则须要500000/db_file_multiblock_read_count=500000/200=2500次I/O。可是若是采用索引扫描，假设deptno列上的索引都已经cache到内存中，因此能够将访问索引的开销忽略不计。由于要读出4000万x 50% = 2000万数据，假设在读这2000万数据时，有99.9%的命中率，则仍是须要20000次I/O,比上面的全表扫描须要的2500次多多了，因此在这种状况下，用索引扫描反而性能会差不少。在这样的状况下，用全表扫描的时间是固定的，可是用索引扫描的时间会随着选出数据的增多使查询时间相应的延长。

基于代价的优化器 – Cost Based Optimization(简称CBO)
 Oracle把一个代价引擎(Cost Engine)集成到数据库内核中，用来估计每一个执行计划须要的代价，该代价将每一个执行计划所耗费的资源进行量化，从而CBO能够根据这个代价选择出最优的执行计划。
 查询耗费的资源能够被分红3个基本组成部分：I/O代价、CPU代价、network代价。
• I/O代价是将数据从磁盘读入内存所需的代价。访问数据包括将数据文件中数据块的内容读入到SGA的数据高速缓存中，在通常状况下，该代价是处理一个查询所须要的最主要代价，因此咱们在优化时，一个基本原则就是下降查询所产生的I/O总次数。
• CPU代价是处理在内存中数据所须要的代价，如一旦数据被读入内存，则咱们在识别出咱们须要的数据后，在这些数据上执行排序(sort)或链接(join)操做，这须要耗费CPU资源。
• 对于须要访问跨节点(即一般说的服务器)数据库上数据的查询来讲，存在network代价，用来量化传输操做耗费的资源。查询远程表的查询或执行分布式链接的查询会在network代价方面花费比较大。

判断当前数据库使用何种优化器  由optimizer_mode初始化参数决定的。该参数可能的取值为：first_rows_[1 | 10 | 100 | 1000] | first_rows | all_rows | choose | rule。  具体解释以下： • RULE为使用RBO优化器。 • CHOOSE则是根据实际状况，若是数据字典中包含被引用的表的统计数据，即引用的对象已经被分析，则就使用CBO优化器，不然为RBO优化器。 • ALL_ROWS为CBO优化器使用的第一种具体的优化方法，是以数据的吞吐量为主要目标，以即可以使用最少的资源完成语句。 • FIRST_ROWS为优化器使用的第二种具体的优化方法，是以数据的响应时间为主要目标，以便快速查询出开始的几行数据。 • FIRST_ROWS_[1 | 10 | 100 | 1000] 为优化器使用的第三种具体的优化方法，让优化器选择一个可以把响应时间减到最小的查询执行计划，以迅速产生查询结果的前 n 行。该参数为ORACLE 9I新引入的。 • 查看命令：show parameter OPTIMIZER_MODE