MySQL架构组成---逻辑模块组成

 

 

 

1、MySQL Server 系统架构

MySQL逻辑结构能够当作是二层架构，第一层咱们一般叫作SQL Layer，在MySQL 数据库系统处理底层数据以前的全部工做都是在这一层完成的，包括权限判断，sql解析，执行计划优化，query cache 的处理等等；第二层就是存储引擎层，咱们一般叫作StorageEngine Layer，也就是底层数据存取操做实现部分，由多种存储引擎共同组成。因此，能够用以下一张最简单的架构示意图来表示MySQL 的基本架构，如图所示：

从上图看起来MySQL逻辑架构很是的简单，但实际上每一层中都含有各自的不少小模块，尤为是第一层SQL Layer，结构至关复杂的。下面就分别针对SQL Layer 和Storage Engine Layer 作一个简单的分析。

SQL Layer 中包含了多个子模块，下面我将逐个作一下简单的介绍：

 

一、初始化模块

初始化模块就是在MySQL Server 启动的时候，对整个系统作各类各样的初始化操做，好比各类buffer，cache 结构的初始化和内存空间的申请，各类系统变量的初始化设定，各类存储引擎的初始化设置，等等。

二、核心API

核心API 模块主要是为了提供一些须要高效的底层操做功能的优化实现，包括各类底层数据结构的实现，以及最重要的内存管理，文件I/O，数字和字符串处理等等。

。

三、网络交互模块

底层网络交互模块抽象出底层网络交互所使用的接口api，实现底层网络数据的接收与发送，以方便其余各个模块调用，以及对这一部分的维护。

 

四、Client & Server 交互协议模块

任何C/S 结构的软件系统，都确定会有本身独有的信息交互协议，MySQL 也不例外。MySQL的Client & Server 交互协议模块部分，实现了客户端与MySQL 交互过程当中的全部协议。固然这些协议都是创建在现有的OS 和网络协议之上的，如TCP/IP 以及Unix Socket。

 

五、用户模块

用户模块所实现的功能，主要包括用户的登陆链接权限控制和用户的受权管理。他就像MySQL 的大门守卫同样，决定是否给来访者“开门”。

 

六、访问控制模块

造访客人进门了就能够想干吗就干吗么？为了安全考虑，确定不能如此随意。这时候就须要访问控制模块实时监控客人的每个动做，给不一样的客人以不一样的权限。访问控制模块实现的功能就是根据用户模块中各用户的受权信息，以及数据库自身特有的各类约束，来控制用户对数据的访问。用户模块和访问控制模块二者结合起来，组成了MySQL 整个数据库系统的权限安全管理的功能。

 

七、链接管理、链接线程和线程管理

链接管理模块负责监听对MySQL Server 的各类请求，接收链接请求，转发全部链接请求到线程管理模块。每个链接上MySQL Server 的客户端请求都会被分配（或建立）一个链接线程为其单独服务。而链接线程的主要工做就是负责MySQL Server 与客户端的通讯，接受客户端的命令请求，传递Server 端的结果信息等。线程管理模块则负责管理维护这些链接线程。包括线程的建立，线程的cache 等。

 

八、Query 解析和转发模块

在MySQL 中咱们习惯将全部Client 端发送给Server 端的命令都称为query，在MySQLServer里面，链接线程接收到客户端的一个Query 后，会直接将该query 传递给专门负责将各类Query 进行分类而后转发给各个对应的处理模块，这个模块就是query 解析和转发模块。其主要工做就是将query 语句进行语义和语法的分析，而后按照不一样的操做类型进行分类，而后作出针对性的转发。

 

九、Query Cache 模块

Query Cache 模块在MySQL 中是一个很是重要的模块，他的主要功能是将客户端提交给MySQL 的Select 类query 请求的返回结果集cache 到内存中，与该query 的一个hash 值作一个对应。该Query 所取数据的基表发生任何数据的变化以后，MySQL 会自动使该query 的Cache 失效。在读写比例很是高的应用系统中，Query Cache 对性能的提升是很是显著的。固然它对内存的消耗也是很是大的。

 

十、Query 优化器模块

Query 优化器，顾名思义，就是优化客户端请求的query，根据客户端请求的query 语句，和数据库中的一些统计信息，在一系列算法的基础上进行分析，得出一个最优的策略，告诉后面的程序如何取得这个query 语句的结果。

 

十一、表变动管理模块

表变动管理模块主要是负责完成一些DML 和DDL 的query，如：update，delte，insert，create table，alter table 等语句的处理。

 

十二、表维护模块

表的状态检查，错误修复，以及优化和分析等工做都是表维护模块须要作的事情。

 

1三、系统状态管理模块

系统状态管理模块负责在客户端请求系统状态的时候，将各类状态数据返回给用户，像DBA 经常使用的各类show status 命令，show variables 命令等，所获得的结果都是由这个模块返回的。

 

1四、表管理器

这个模块从名字上看来很容易和上面的表变动和表维护模块相混淆，可是其功能与变动及维护模块却彻底不一样。你们知道，每个MySQL 的表都有一个表的定义文件，也就是*.frm文件。表管理器的工做主要就是维护这些文件，以及一个cache，该cache 中的主要内容是各个表的结构信息。此外它还维护table 级别的锁管理。

 

1五、日志记录模块

日志记录模块主要负责整个系统级别的逻辑层的日志的记录，包括error log，binarylog，slow query log 等。

 

1六、复制模块

复制模块又可分为Master 模块和Slave 模块两部分， Master 模块主要负责在Replication 环境中读取Master 端的binary 日志，以及与Slave 端的I/O 线程交互等工做。

Slave 模块比Master 模块所要作的事情稍多一些，在系统中主要体如今两个线程上面。一个是负责从Master 请求和接受binary 日志，并写入本地relay log 中的I/O 线程。另一个是负责从relay log 中读取相关日志事件，而后解析成能够在Slave 端正确执行并获得和Master 端彻底相同的结果的命令并再交给Slave 执行的SQL 线程。

 

1七、存储引擎接口模块

存储引擎接口模块能够说是MySQL 数据库中最有特点的一点了。目前各类数据库产品中，基本上只有MySQL 能够实现其底层数据存储引擎的插件式管理。这个模块实际上只是一个抽象类，但正是由于它成功地将各类数据处理高度抽象化，才成就了今天MySQL 可插拔存储引擎的特点。

 

各模块工做配合

咱们能够将以上各个模块画成一个简单的关系图来描述各模块的工做关系：

 

MySQL 各个模块间是如何相互协同工做的？

接下来，咱们经过启动MySQL，客户端链接，请求query，获得返回结果，最后退出，这样一整个过程来进行分析。

首先当咱们执行启动MySQL 命令以后，MySQL 的初始化模块就从系统配置文件中读取系统参数和命令行参数，并按照参数来初始化整个系统，如申请并分配buffer，初始化全局变量，以及各类结构等。同时各个存储引擎也被启动，并进行各自的初始化工做。当整个系统初始化结束后，由链接管理模块接手。链接管理模块会启动处理客户端链接请求的监听程序，包括tcp/ip的网络监听，还有unix的socket。这时候，MySQL Server 就基本启动完成，准备好接受客户端请求了。

当链接管理模块监听到客户端的链接请求，链接管理模块就会将链接请求转发给线程管理模块，去请求一个链接线程。

线程管理模块立刻又会将控制交给链接线程模块，告诉链接线程模块：如今我这边有链接请求过来了，须要创建链接，你赶快处理一下。链接线程模块在接到链接请求后，首先会检查当前链接线程池中是否有空闲链接线程，若是有，就取出一个和客户端请求链接上，若是没有空闲的链接线程，则创建一个新的链接线程与客户端请求链接。

注意：链接线程模块并非在收到链接请求后立刻就会取出一个链接线程连和客户端链接，而是首先经过调用用户模块进行受权检查，只有客户端请求经过了受权检查后，他才会将客户端请求和负责请求的链接线程连上。

知识补充：在MySQL 中，将客户端请求分为了两种类型：一种是query，须要调用Parser ，也就是Query 解析和转发模块的解析才可以执行的请求；一种是command，不须要调用Parser 就能够直接执行的请求。

当客户端请求和链接线程“互换暗号（互通协议）”接上头以后，链接线程就开始处理客户端发送过来的各类命令（或者query），并将收到的query 语句转给Query 解析和转发模块，Query 解析器先对Query 进行基本的语义和语法解析，而后根据命令类型的不一样，有些会直接处理，有些会分发给其余模块来处理。

例如对于SELECT语句，在解析查询以前，服务器会先检查缓存(Query cache)，若是可以在其中找到对应的查询，服务器就没必要在执行查询解析、优化和执行的整个过程，而是直接返回查询缓存中的结果集。若是不是一个能够被cache 的query类型，或者cache 中没有该query 的数据，那么query 将被继续传回query 解析器，让query解析器进行相应处理，再经过query 分发器分发给相关处理模块。例如若是解析器解析结果是一条未被cache 的select 语句，则将控制权交给查询Optimizer，也就是Query 优化器模块，若是是DML 或者是DDL 语句，则会交给表变动管理模块，若是是一些更新统计信息、检测、修复和整理类的query 则会交给表维护模块去处理，复制相关的query 则转交给复制模块去进行相应的处理，请求状态的query 则转交给了状态收集报告模块。

注：实际上表变动管理模块根据所对应的处理请求的不一样，是分别由insert 处理器、delete处理器、update 处理器、create 处理器，以及alter 处理器这些小模块来负责不一样的DML和DDL 的。

在各个模块收到Query 解析与分发模块分发过来的请求后，首先会经过访问控制模块检查链接用户是否有访问目标表以及目标字段的权限，若是有，就会调用表管理模块请求相应的表，并获取对应的锁。

当表变动管理模块“获取”打开的表以后，就会根据该表的相关meta 信息，判断表的存储引擎类型和其余相关信息。根据表的存储引擎类型，提交请求给存储引擎接口模块，调用对应的存储引擎实现模块，进行相应处理。

当一条query 或者一个command 处理完成（成功或者失败）以后，控制权都会交还给链接线程模块。若是处理成功，则将处理结果（多是一个Result set，也多是成功或者失败的标识）经过链接线程反馈给客户端。若是处理过程当中发生错误，也会将相应的错误信息发送给客户端，而后链接线程模块会进行相应的清理工做，并继续等待后面的请求，重复上面提到的过程，或者完成客户端断开链接的请求。

若是在上面的过程当中，相关模块使数据库中的数据发生了变化，并且MySQL 打开了binlog功能，则对应的处理模块还会调用日志处理模块将相应的变动语句以更新事件的形式记录到相关参数指定的二进制日志文件中。

在上面各个模块的处理过程当中，各自的核心运算处理功能部分都会依赖整个MySQL的核心API 模块，好比内存管理，文件I/O，数字和字符串处理等等。

 

2、MySQL 自带工具使用介绍

MySQL 数据库不只提供了数据库的服务器端应用程序，同时还提供了大量的客户端工具程序，如mysql，mysqladmin，mysqldump等等

一、mysql命令

Mysql命令是用的最多的一个命令工具了，为用户提供一个命令行接口来操做管理MySQL 服务器。

语法格式：

Usage: mysql [OPTIONS] [database]

例如：# mysql-e "select user,host from user"mysql

你们只要运行一下“mysql --help”就会获得以下相应的基本使用帮助信息：

 

这里主要介绍一些在运维过程当中会用到的相关选项：

首先看看“-e, --execute=name”参数，这个参数是告诉mysql，我要执行“-e”后面的某个命令，而不是要经过mysql链接登陆到MySQL Server 上面。此参数在咱们写一些基本的MySQL 检查和监控的脚本中很是有用，运维mysql时常常在脚本中使用到它。

#mysql  -hhostname -Pport -uusername -ppassword  -e  相关mysql的sql语句

例1：

经过binlog_cache_use 以及 binlog_cache_disk_use来分析设置的binlog_cache_size是否足够

例2：经过脚本建立数据库、表及对表进行增、改、删、查操做。

脚本内容以下：

建立授予test用户能够在指定的源登陆

 

测试test用户链接mysql服务器

 

授予脚本执行权限

#chmod  +x /root/mysql1.sh

执行脚本：

若是在链接时候使用了“-E, --vertical”参数，登入以后的全部查询结果都将以纵列显示，效果和咱们在一条query 以后以“\G”结尾同样。

#mysql -E -u root -p

 

“-H, --html”与“-X, --xml”，在启用这两个参数以后，select出来的全部结果都会按照“Html”与“Xml”格式来输出，在有些场合之下，好比但愿Xml或者Html 文件格式导出某些报表文件的时候，是很是方便的。

#mysql -X -u root -p

 

“--prompt=name”参数对于作运维的人来讲是一个很是重要的参数选项，其主要功能是定制本身的mysql提示符的显示内容。在默认状况下，咱们经过mysql登入到数据库以后，mysql的提示符只是一个很简单的内容”mysql>“，没有其余任何附加信息。很是幸运的是mysql经过“--prompt=name”参数给咱们提供了自定义提示信息的办法，能够经过配置显示登入的主机地址，登陆用户名，当前时间，当前数据库schema，MySQL Server 的一些信

息等等。我我的强烈建议将登陆主机名，登陆用户名和所在的schema 这三项加入提示内容，

由于当你们手边管理的MySQL 愈来愈多，操做愈来愈频繁的时候，很是容易由于操做的时候没有太在乎本身当前所处的环境而形成在错误的环境执行了错误的命令并形成严重后果的状况。若是咱们在提示内容中加入了这几项以后，至少能够更方便的提醒本身当前所处环境，以尽可能减小犯错误的几率。

我的强烈建议提示符定义： "\\u@\\h : \\d \\r:\\m:\\s> "，显示效果：

 

切换数据库

 

提示符解释：

\u 表示用户名,  \h 表示主机名， \d 表示当前数据库，\r小时（12小时制），\m分种，\s秒，\R  The current time, in 24-hour military time (0–23)

“--tee=name”参数也是对运维人员很是有用的参数选项，用来告诉mysql，将全部输入和输出内容都记录进文件。在咱们一些较大维护变动的时候，为了方便被查，最好是将整个操做过程的全部输入和输出内容都保存下来。

假如mysql命令行状态下，要进行大量的交互操做，其实能够把这些操做记录在log中进行审计，很简单mysql -u root -p --tee=/path/xxxx.log

也能够在服务器上的/etc/my.cnf中的[client]加入 

tee =/tmp/client_mysql.log便可.

注：若没有[client]就添加便可

或者在mysql>提示符下执行下面的命令

mysql其余参数选项能够经过MySQL 官方参考手册查阅，也能够经过执行“mysql --help”或man  mysql获得帮助信息以后经过自行实验来作进一步的深入认识。

二、mysqladmin

Usage: mysqladmin [OPTIONS] command command ...

mysqadmin，顾名思义，提供的功能都是与MySQL 管理相关的各类功能。如MySQL Server状态检查，各类统计信息的flush，建立/删除数据库，关闭MySQL Server 等等。mysqladmin所能作的事情，虽然大部分均可以经过mysql链接登陆上MySQL Server 以后来完成，可是大部分经过mysqladmin来完成操做会更简单更方便。这里将介绍一下常用到的几个经常使用功能：

ping 命令能够很容易检测MySQL Server 是否还能正常提供服务

mysql本机上测试：

在其余主机上测试mysql server是否正常提供服务

 

注1：地址192.168.56.11是mysql server的ip

注2：mysql server的防火墙要容许3306/tcp通讯

注3：在mysql server上建立受权用户

status 命令能够获取当前MySQL Server 的几个基本的状态值：

 

mysqladmin status命令结果有下述列

Uptime:是mysql服务器运行的秒数。

Threads:活跃线程的数量即开启的会话数。

Questions： 服务器启动以来客户的问题(查询)数目  （只要跟mysql做交互，无论查询表，仍是查询服务器状态都记一次）。

Slow queries：是慢查询的数量。

Opens：mysql已经打开的数据库表的数量

Flush tables: mysql已经执行的flush  tables，refresh和reload命令的数量。

注：flush  tables  //刷新表（清除缓存）

reload 重载受权表

　　refresh 洗掉全部表并关闭和打开日志文件

open：打开数据库的表的数量，以服务器启动开始。

Queries per second avg：select语句平均查询时间

Memory in use分配的内存(只有在MySQL用--with-debug编译时可用)

Max memory used分配的最大内存(只有在MySQL用--with-debug编译时可用)

 

processlist获取当前数据库的链接线程信息：

监控mysql进程运行状态：

上面的这三个功能在一些简单监控脚本中常用到的。

mysqladmin其余参数选项能够经过执行“mysqladmin --help”或man  mysqladmin获得帮助信息。

编写一个简单的mysql监控脚本，内容以下：

附加知识点1：

Mysql的系统数据库：

1）  INFORMATION_SCHEMA数据字典：此数据库存贮了其余全部数据库的信息（元数据）。元数据是关于数据的数据，如database name或table name，列的数据类型，或访问权限等。

INFORMATION_SCHEMA库的主要系统表

TABLES表：提供了关于数据库中的表和视图的信息。（Table_schema字段表明 数据表所属的数据库名）

SELECT  *  FROM information_schema.TABLES WHERE  TABLE_SCHEMA='数据库名'; 

COLUMNS表：提供了表中的列信息。详细表述了某张表的全部列以及每一个列的信息。

SELECT * FROM information_schema.COLUMNS WHERE TABLE_SCHEMA='数据库名‘' AND TABLE_NAME='表名'

TABLE_CONSTRAINTS表：存储主键约束、外键约束、惟一约束、check约束。各字段的说明信息

ELECT * FROM information_schema.TABLE_CONSTRAINTS  WHERE  TABLE_SCHEMA='数据库名' AND TABLE_NAME='表名'

STATISTICS表：提供了关于表索引的信息。

SELECT * FROM information_schema.STATISTICS WHERE TABLE_SCHEMA='数据库名' AND TABLE_NAME='表名' 

2）performance_schema性能字典，此数据库为数据库性能优化提供重要的参考信息

 

3）MYSQL数据库: 该数据库也是个核心数据库，存储用户的权限信息与帮助信息。

 

4）MySQL5.7 提供了 sys系统数据库。 sys数据库里面包含了一系列的存储过程、自定义函数以及视图来帮助咱们快速的了解系统的元数据信息。sys系统数据库结合了information_schema和performance_schema的相关数据，让咱们更加容易的检索元数据。

 

附加知识点2：

mysql有关show的用法 

SHOW DATABASES列出 MySQL Server上的数据库。 

SHOW TABLES [FROM db_name]列出数据库中的表。 

SHOW TABLE STATUS [FROM db_name]列出数据库的表信息，比较详细。 

SHOW COLUMNS FROM tbl_name [FROM db_name]列出表的列信息，同 SHOW FIELDS FROM tbl_name [FROM db_name]，

DESCRIBE tbl_name [col_name]。 

SHOW FULL COLUMNS FROM tbl_name [FROM db_name]列出表的列信息，比较详细，同 SHOW FULL FIELDS FROM tbl_name [FROM db_name]。  

SHOW INDEX FROM tbl_name [FROM db_name]列出表的索引信息。 

SHOW STATUS列出 Server 的状态信息。 

SHOW VARIABLES列出 MySQL 系参数值

SHOW PROCESSLIST查看当前mysql查询进程

SHOW GRANTS FOR user列出用户的受权命令

 

三、mysqldump：

这个工具其功能就是将MySQL Server中的数据以SQL 语句的形式从数据库中dump 成文本文件。mysqldump是作为MySQL 的一种逻辑备份工具

 

四、mysqlbinlog

mysqlbinlog程序的主要功能就是分析MySQL Server 所产生的二进制日志（也就是binlog）。

经过mysqlbinlog，咱们能够解析出binlog中指定时间段或者指定日志起始和结束位置的内容解析成SQL 语句。