目的sql
MySQL查询优化器是基于代价(cost-based)的查询方式。所以,在查询过程当中,最重要的一部分是根据查询的SQL语句,依据多种索引,计算查询须要的代价,从而选择最优的索引方式生成查询计划。函数
然而,在分析MySQL查询优化器过程当中,是以查询优化器主线的原则进行研究,而忽略了不少细节的内容。所以,对MySQL索引选择进行进一步的研究和分析,给出建立和使用索引的规则,从而有助于分析SQL查询。源码分析
设计测试
设计原则主要依据为尽量的测试索引,而不考虑索引的合理性。一方面能够更加全面的测试在多种索引存在的状况下,查询优化器是如何进行选择的。另外一方面能够根据选择索引的原则,评估索引的合理性。优化
1.数据表设计ui
数据表设计以下所示,其中students_origin表中只有主键索引,students表设计主键索引(Primary Key)、惟一索引(Unique Key)、B+索引、联合索引等。spa
CREATE TABLE `students_origin` ( `id` int(11) NOT NULL, `name` varchar(30) DEFAULT NULL, `age` int(11) DEFAULT NULL, `major` varchar(20) DEFAULT NULL, `rank` int(11) DEFAULT NULL, `total` int(11) DEFAULT NULL, `comment` varchar(20) DEFAULT NULL, PRIMARY KEY (`id`) ) ENGINE=InnoDB DEFAULT CHARSET=utf8; CREATE TABLE `students` ( `id` int(11) NOT NULL, `name` varchar(30) DEFAULT NULL, `age` int(11) DEFAULT NULL, `major` varchar(20) DEFAULT NULL, `rank` int(11) DEFAULT NULL, `total` int(11) DEFAULT NULL, `comment` varchar(20) DEFAULT NULL, PRIMARY KEY (`id`), UNIQUE KEY `name` (`name`), KEY `idx_major` (`major`), KEY `idx_rank` (`rank`), KEY `idx_rank_total` (`rank`,`total`) ) ENGINE=InnoDB DEFAULT CHARSET=utf8;
测试
设计
一、主键查询code
对主键id查询的测试,主要为了查看对于主键查询时,在多种索引并存的状况下,MySQL查询是如何执行的。以及若是使用了索引,选择索引的原则。orm
1.1 源码分析
首先从源码角度分析的MySQL查询优化器的处理逻辑,从而了解MySQL是如何进行处理的。
MySQL查询优化器的核心处理逻辑,在JOIN::optimizer()函数(sql\sql_select.cc:854)中,经过基于代价的查询处理,选择代价最低查询方式执行。对于该查询来讲,因为没有任何过滤条件,所以在调用make_join_statistics()函数(sql\sql_select.cc:2651)执行基于代价的查询处理过程后,查询执行的类型仍然为JT_ALL。也就是说,执行该查询仍然是全表扫描方式。特别说明,MySQL查询优化器基于代价的查询处理,主要是根据给出的查询条件来进行优化的,如where条件、ON条件等。
基于代价的查询处理以后,会根据查到的最优计划,生成最终的执行计划。该过程经过调用make_join_readinfo()函数(sql\sql_select.cc:6818)生成最终的查询计划。对于查询类型为JT_ALL,若是查询的表中有索引,则会调用find_shortest_key()函数(sql\sql_select.cc:13438)根据查询字段的索引覆盖状况,以及索引字段的键值长度,查找最短的键值,进行全表扫描。根据基于代价的查询处理以后,该查询的查询类型为JT_ALL。若是students中没有多个索引,只有主键索引的状况下,查询使用主键索引进行查询。但因为students表中有多个索引,所以,查找键值长度最短的索引idx_rank进行全表扫描。
find_shortest_key()函数的核心代码以下所示:
for (uint nr=0; nr < table->s->keys ; nr++) { if (nr == usable_clustered_pk) continue; if (usable_keys->is_set(nr)) { if (table->key_info[nr].key_length < min_length) { min_length=table->key_info[nr].key_length; best=nr; } } }
1.2 执行计划
首先对仅有主键索引的students_origin表,
执行SQL查询:
select id from students_origin;
查询计划以下所示:
对studentns数据表,
执行SQL查询:
select id from students;
查询的执行计划以下所示:
从执行计划来看,第一个查询的查询类型为index,键值为主键索引,而第二个查询使用idx_rank索引进行全表扫描。
对于相同的SQL查询语句,第二个查询使用的索引起生了变化。缘由与Innodb数据和索引的存储有关,具体Innodb数据和索引的存储内容在MySQL官方文档和《High Performance MySQL》中都有相关的讲解。而且对于Innodb数据索引存储的源码实现逻辑,将进一步深刻分析和测试,这里仅简要解释相关的内容。首先Innodb是汇集存储的,每条记录的数据以主键进行汇集存储,经过主键进行索引。若是没有定义主键,系统默认使用6个字符做为主键进行汇集存储。而辅助索引(secondary indexes)中的每条记录包含主键(primary key)和索引字段。
所以,对于该查询,查询优化器使用辅助索引进行查询,经过辅助索引就能够找到查询的id,查找的代价更低。
二、惟一索引查询
对惟一索引字段进行查询的测试,主要用于查看辅助索引在查询索引字段的状况下,MySQL选择索引的原则。
2.1 源码分析
从源码分析MySQL查询优化器,与1.1的逻辑处理流程基本一致。因为没有任何过滤条件,所以查询优化器调用make_join_statistics()函数进行基于代价的查询过程后,查询类型为JT_ALL。在生成查询计划时,调用find_shortest_key()函数查找最短的键值,进行查询全表。因为惟一索引name可以被索引覆盖,所以经过惟一索引来查询全表。
2.2 查询计划
对students_origin表
执行SQL查询
select id, name from students_origin;
查询计划以下所示:
对students表执行SQL查询,
select id, name from students;
查询计划以下所示:
由查询计划可知,对name字段没有惟一索引的表进行查询时,查询进行全表扫描,查询类型为ALL。而对name字段使用惟一索引的students表查询时,使用惟一索引进行全表扫描。查询类型为index,而非ALL。
经过以上分析可知,当查询的SQL能够经过辅助索引获得查询结果时,MySQL查询优化器会选择辅助索引进行查询优化,这有效的下降了查询的代价。
2.3 扩展
SQL:
SELECT id, major FROM students;
2.3.1 查询计划以下所示:
三、多个索引查询
对索引字段建立索引和联合索引,查看MySQL查询优化器是如何选择索引,来提升查询效率的。
3.1 源码分析
从源码分析来看,MySQL查询优化器的逻辑处理流程与1.1基本一致。对于全表查询,make_join_statistics()函数进行基于代价的查询处理后,查询类型为JT_ALL。因为rank字段有两个索引,在调用find_shortest_key()函数,查找idx_rank(长度为5)和idx_rank_total(长度为10)中最短的键值,最终选择idx_rank进行查询。因为查询字段id, rank可以被索引覆盖,所以经过idx_rank索引来查询。
3.2 查询计划
对students表
执行SQL查询
select id, rank from students;
查询计划以下所示:
从查询计划来看,在rank被idx_rank和idx_rank_total两个索引都覆盖的状况下,MySQL查询优化器选择键值长度短的idx_rank进行查询。
四、联合索引查询
使用联合索引,主要用于对比在查询中使用过滤条件时,选择索引的不一样,从而分析MySQL查询优化器的处理逻辑。
4.1 源码分析
从源码分析来看,MySQL查询优化器的逻辑处理流程与3.1基本一致。不一样之处在于调用find_shortest_key()函数时,仅有idx_rank_total索引覆盖查询字段。所以查询优化器选择idx_rank_total索引进行覆盖索引查询。
4.2 查询计划
对students表
执行SQL查询
select id, rank, total from students;
查询计划以下所示:
从查询计划来看,MySQL查询优化器使用覆盖索引idx_rank_total进行查询,该查询测试主要用于对比测试5中的结果。
五、条件索引查询
经过where条件,对查询内容进行过滤。该测试主要用于查看,rank在where过滤条件中时,与没有过滤条件的测试4进行比较,查看查询优化器选择索引的原则。
5.1 源码分析
经过源码可知,对于有where过滤条件的SQL查询,查询优化器在make_join_statistics()函数中,根据基于代价的原则,经过调用update_ref_and_keys()函数(sql\sql_select.cc:3963),查找rank可使用的索引有idx_rank和idx_rank_total两个索引,而后调用check_quick_keys()函数(sql\opt_range.cc:7628)查找对查询条件索引的记录数,MySQL查询优化器选择查询代价最低的索引idx_rank。查询优化器经过基于代价的处理后,查询类型为JT_REF。所以,生成查询计划时,因为已经选定了使用的索引,因此没必要再调用find_shortest_key()函数再去查找键值最短的索引。
5.2 查询计划
对students表
执行SQL查询
select id, rank, total from students where rank = 2;
查询计划以下所示:
从查询计划来看,查询类型为ref,查询使用的索引为idx_rank,而且查询使用的是where条件,而没有使用索引覆盖进行查询。也就是说,首先经过索引idx_rank查找到键值,经过主键id查找对应的记录。
与测试4.2相比,查询计划发生了改变。主要缘由是因为where条件改变了查询优化器的处理逻辑。查询优化器根据查询条件经过基于代价的处理,选择查询代价最低的索引,从而生成查询计划。而与4.2相比,查询优化器选择经过覆盖索引来进行查询,而不进行全表扫描。
在实际应用中,某些状况下,经过where条件进行基于代价的处理,选择where条件字段的索引,反而不如经过覆盖索引进行过滤where条件的查询代价低。正如测试5的查询,若是查询的字段能够经过覆盖索引进行查询,并经过where条件过滤的方式,可能比查询优化器经过where条件进行查找最优的索引查找,再经过对应主键进行查询更高效。该问题已超出范围,将在以后进行详细测试和分析。
结论
经过以上测试,对MySQL查询优化器选择索引的原则有较深刻的理解,经过对SQL查询进行分析,有助于判断查询类型和选择的索引。
MySQL查询优化器的在索引选择的规则能够归纳为:
一、对无过滤条件、索引能够覆盖的查询。查询优化器选择覆盖索引键值最短的索引进行查询;
二、对无过滤条件、无索引覆盖的查询。查询优化器选择全表扫描;
三、对有过滤条件、索引能够覆盖的查询。查询优化器优先基于代价的方式对过滤条件进行处理。若是能够索引查找,将选择代价最低的索引进行查找。若是是全表扫描,则经过查找键值最短的覆盖索引进行查询,并经过过滤条件进行过滤。
四、对有过滤条件、无索引覆盖的查询。查询优化器基于代价的方式对过滤条件进行处理,生成查询计划。