MySQL高性能优化实战总结

时间  2019-12-08
标签 mysql 高性能 优化 实战 总结 栏目 MySQL 繁體版
原文   原文链接

from：http://database.51cto.com/art/201809/583620.htmmysql

1.1 前言linux

MySQL对于不少Linux从业者而言，是一个很是棘手的问题，多数状况都是由于对数据库出现问题的状况和处理思路不清晰。在进行MySQL的优化以前必需要了解的就是MySQL的查询过程，不少的查询优化工做实际上就是遵循一些原则让MySQL的优化器可以按照预想的合理方式运行而已。ios

今天给你们体验MySQL的优化实战，助你高薪之路顺畅。redis

图 - MySQL查询过程sql

1.2 优化的哲学shell

优化有风险，涉足需谨慎数据库

1.2.1 优化可能带来的问题express

  •  优化不老是对一个单纯的环境进行，还极可能是一个复杂的已投产的系统。
  •  优化手段原本就有很大的风险，只不过你没能力意识到和预见到！
  •  任何的技术能够解决一个问题，但必然存在带来一个问题的风险！
  •  对于优化来讲解决问题而带来的问题,控制在可接受的范围内才是有成果。
  •  保持现状或出现更差的状况都是失败！

1.2.2 优化的需求vim

  •  稳定性和业务可持续性,一般比性能更重要！
  •  优化不可避免涉及到变动，变动就有风险！
  •  优化使性能变好，维持和变差是等几率事件！
  •  切记优化,应该是各部门协同，共同参与的工做，任何单一部门都不能对数据库进行优化！
  •  因此优化工做,是由业务须要驱使的！！！

1.2.3 优化由谁参与缓存

在进行数据库优化时，应由数据库管理员、业务部门表明、应用程序架构师、应用程序设计人员、应用程序开发人员、硬件及系统管理员、存储管理员等，业务相关人员共同参与。

1.3 优化思路

1.3.1 优化什么

在数据库优化上有两个主要方面：即安全与性能。

  •   全 ---> 数据可持续性
  •  性能 ---> 数据的高性能访问

1.3.2 优化的范围有哪些

存储、主机和操做系统方面:

  •  主机架构稳定性
  •  I/O规划及配置
  •  Swap交换分区
  •  OS内核参数和网络问题

应用程序方面:

  •  应用程序稳定性
  •  SQL语句性能
  •  串行访问资源
  •  性能欠佳会话管理
  •  这个应用适不适合用MySQL

数据库优化方面:

  •  内存
  •  数据库结构(物理&逻辑)
  •  实例配置

说明：不论是在，设计系统，定位问题仍是优化，均可以按照这个顺序执行。

1.3.3 优化维度

数据库优化维度有四个:

硬件、系统配置、数据库表结构、SQL及索引

优化选择

  •  优化成本:硬件>系统配置>数据库表结构>SQL及索引
  •  优化效果:硬件<系统配置<数据库表结构<SQL及索引

1.4 优化工具备啥？

1.4.1 数据库层面

检查问题经常使用工具

  1. msyqladmin #mysql客户端，可进行管理操做  
  2. mysqlshow #功能强大的查看shell命令  
  3. show [SESSION | GLOBAL] variables #查看数据库参数信息  
  4. SHOW [SESSION | GLOBAL] STATUS #查看数据库的状态信息  
  5. information_schema #获取元数据的方法S  
  6. SHOW ENGINE INNODB STATUS Innodb #引擎的全部状态  
  7. SHOW PROCESSLIST #查看当前全部链接session状态  
  8. explain #获取查询语句的执行计划s  
  9. how index #查看表的索引信息  
  10. slow-log #记录慢查询语句  
  11. mysqldumpslow #分析slowlog文件的 

不经常使用但好用的工具

  1. zabbix #监控主机、系统、数据库（部署zabbix监控平台）  
  2. pt-query-digest #分析慢日志  
  3. mysqlslap #分析慢日志  
  4. sysbench #压力测试工具  
  5. mysql profiling #统计数据库总体状态工具   
  6. Performance Schema mysql #性能状态统计的数据  
  7. workbench #管理、备份、监控、分析、优化工具（比较费资源） 

1.4.2 数据库层面问题解决思路

通常应急调优的思路：

针对忽然的业务办理卡顿，没法进行正常的业务处理！须要立马解决的场景！

  •  一、show processlist
  •  二、explain select id ,name from stu where name='clsn'; # ALL id name age sex
  •  select id,name from stu where id=2-1 函数 结果集>30;
  •  show index from table;
  •  三、经过执行计划判断，索引问题（有没有、合不合理）或者语句自己问题
  •  四、show status like '%lock%'; # 查询锁状态
  •  kill SESSION_ID; # 杀掉有问题的session

常规调优思路：

针对业务周期性的卡顿，例如在天天10-11点业务特别慢，可是还可以使用，过了这段时间就行了。

  •  一、查看slowlog，分析slowlog，分析出查询慢的语句。
  •  二、按照必定优先级，进行一个一个的排查全部慢语句。
  •  三、分析top sql，进行explain调试，查看语句执行时间。
  •  四、调整索引或语句自己。

1.4.3 系统层面

cpu方面

  1. vmstat、sar top、htop、nmon、mpstat 

内存

  1. free 、ps -aux 、 

IO设备（磁盘、网络）

  1. iostat 、 ss 、 netstat 、 iptraf、iftop、lsof、 

vmstat 命令说明：

  •  Procs：r显示有多少进程正在等待CPU时间。b显示处于不可中断的休眠的进程数量。在等待I/O
  •  Memory：swpd显示被交换到磁盘的数据块的数量。未被使用的数据块，用户缓冲数据块，用于操做系统的数据块的数量
  •  Swap：操做系统每秒从磁盘上交换到内存和从内存交换到磁盘的数据块的数量。s1和s0最好是0
  •  Io：每秒从设备中读入b1的写入到设备b0的数据块的数量。反映了磁盘I/O
  •  System：显示了每秒发生中断的数量(in)和上下文交换(cs)的数量
  •  Cpu：显示用于运行用户代码，系统代码，空闲，等待I/O的CPU时间

iostat命令说明

实例命令： iostat -dk 1 5

iostat -d -k -x 5 （查看设备使用率（%util）和响应时间（await））

  •  tps：该设备每秒的传输次数。“一次传输”意思是“一次I/O请求”。多个逻辑请求可能会被合并为“一次I/O请求”。
  •  iops ：硬件出厂的时候，厂家定义的一个每秒最大的IO次数,"一次传输"请求的大小是未知的。
  •  kB_read/s：每秒从设备（drive expressed）读取的数据量；
  •  KB_wrtn/s：每秒向设备（drive expressed）写入的数据量；
  •  kB_read：读取的总数据量；
  •  kB_wrtn：写入的总数量数据量；这些单位都为Kilobytes。

1.4.4 系统层面问题解决办法

你认为到底负载高好，仍是低好呢？

在实际的生产中，通常认为 cpu只要不超过90%都没什么问题 。

固然不排除下面这些特殊状况：

问题一：cpu负载高，IO负载低

  •  内存不够
  •  磁盘性能差
  •  SQL问题 ------>去数据库层，进一步排查sql问题
  •  IO出问题了（磁盘到临界了、raid设计很差、raid降级、锁、在单位时间内tps太高）
  •  tps太高: 大量的小数据IO、大量的全表扫描

问题二：IO负载高，cpu负载低

  •  大量小的IO 写操做：
  •  autocommit ，产生大量小IO
  •  IO/PS,磁盘的一个定值，硬件出厂的时候，厂家定义的一个每秒最大的IO次数。
  •  大量大的IO 写操做
  •  SQL问题的概率比较大

问题三：IO和cpu负载都很高

硬件不够了或sql存在问题

1.5 基础优化

1.5.1 优化思路

定位问题点:

硬件 --> 系统 --> 应用 --> 数据库 --> 架构（高可用、读写分离、分库分表）

处理方向

明确优化目标、性能和安全的折中、防患未然

1.5.2 硬件优化

主机方面：

  •  根据数据库类型，主机CPU选择、内存容量选择、磁盘选择
  •  平衡内存和磁盘资源
  •  随机的I/O和顺序的I/O
  •  主机 RAID卡的BBU(Battery Backup Unit)关闭

cpu的选择：

  •  cpu的两个关键因素：核数、主频
  •  根据不一样的业务类型进行选择：
  •  cpu密集型：计算比较多，OLTP 主频很高的cpu、核数还要多
  •  IO密集型：查询比较，OLAP 核数要多，主频不必定高的

内存的选择：

  •  OLAP类型数据库，须要更多内存，和数据获取量级有关。
  •  OLTP类型数据通常内存是cpu核心数量的2倍到4倍，没有最佳实践。

存储方面：

  •  根据存储数据种类的不一样，选择不一样的存储设备
  •  配置合理的RAID级别(raid五、raid十、热备盘)
  •  对与操做系统来说，不须要太特殊的选择，最好作好冗余（raid1）（ssd、sas 、sata）

raid卡：主机raid卡选择：

  •  实现操做系统磁盘的冗余（raid1）
  •  平衡内存和磁盘资源
  •  随机的I/O和顺序的I/O
  •  主机 RAID卡的BBU(Battery Backup Unit)要关闭。

网络设备方面：

使用流量支持更高的网络设备（交换机、路由器、网线、网卡、HBA卡）

注意：以上这些规划应该在初始设计系统时就应该考虑好。

1.5.3 服务器硬件优化

  •  一、物理状态灯：
  •  二、自带管理设备：远程控制卡（FENCE设备：ipmi ilo idarc），开关机、硬件监控。
  •  三、第三方的监控软件、设备（snmp、agent）对物理设施进行监控
  •  四、存储设备：自带的监控平台。EMC2（hp收购了）， 日立（hds），IBM低端OEM hds，高端存储是本身技术，华为存储

1.5.4 系统优化

Cpu：

基本不须要调整，在硬件选择方面下功夫便可。

内存：

基本不须要调整，在硬件选择方面下功夫便可。

SWAP：

MySQL尽可能避免使用swap。阿里云的服务器中默认swap为0

IO ：

  •  raid、no lvm、 ext4或xfs、ssd、IO调度策略
  •  Swap调整(不使用swap分区) 
  1. /proc/sys/vm/swappiness的内容改为0（临时） 
  2.  
  3. /etc/sysctl.conf上添加vm.swappiness=0（永久） 

这个参数决定了Linux是倾向于使用swap，仍是倾向于释放文件系统cache。在内存紧张的状况下，数值越低越倾向于释放文件系统cache。固然，这个参数只能减小使用swap的几率，并不能避免Linux使用swap。

修改MySQL的配置参数innodb_flush_method，开启O_DIRECT模式。这种状况下，InnoDB的buffer pool会直接绕过文件系统cache来访问磁盘，可是redo log依旧会使用文件系统cache。值得注意的是，Redo log是覆写模式的，即便使用了文件系统的cache，也不会占用太多

IO调度策略

  1. #echo deadline>/sys/block/sda/queue/scheduler #临时修改成deadline  
  2. 永久修改以下：  
  3. vi /boot/grub/grub.conf  
  4. 更改到以下内容:  
  5. kernel /boot/vmlinuz-2.6.18-8.el5 ro root=LABEL=/ elevator=deadline rhgb quiet 

1.5.5 系统参数调整

Linux系统内核参数优化

  1. vim /etc/sysctl.conf   
  2.  net.ipv4.ip_local_port_range = 1024 65535 # 用户端口范围   
  3.  net.ipv4.tcp_max_syn_backlog = 4096   
  4.  net.ipv4.tcp_fin_timeout = 30   
  5.  fs.file-max=65535 # 系统最大文件句柄，控制的是能打开文件最大数量 

用户限制参数（mysql能够不设置如下配置）

  1. vim /etc/security/limits.conf   
  2.  * soft nproc 65535   
  3.  * hard nproc 65535   
  4.  * soft nofile 65535   
  5.  * hard nofile 65535 

1.5.6 应用优化

业务应用和数据库应用独立,防火墙：iptables、selinux等其余无用服务(关闭)：

  1. chkconfig --level 23456 acpid off   
  2. chkconfig --level 23456 anacron off   
  3. chkconfig --level 23456 autofs off   
  4. chkconfig --level 23456 avahi-daemon off  
  5. chkconfig --level 23456 bluetooth off   
  6. chkconfig --level 23456 cups off   
  7. chkconfig --level 23456 firstboot off   
  8. chkconfig --level 23456 haldaemon off   
  9. chkconfig --level 23456 hplip off   
  10. chkconfig --level 23456 ip6tables off   
  11. chkconfig --level 23456 iptables off   
  12. chkconfig --level 23456 isdn off   
  13. chkconfig --level 23456 pcscd off   
  14. chkconfig --level 23456 sendmail off   
  15. chkconfig --level 23456 yum-updatesd off 

安装图形界面的服务器不要启动图形界面 runlevel 3,另外，思考未来咱们的业务是否真的须要MySQL，仍是使用其余种类的数据库。用数据库的最高境界就是不用数据库。

1.6 数据库优化

SQL优化方向：

执行计划、索引、SQL改写

架构优化方向：

高可用架构、高性能架构、分库分表

1.6.1 数据库参数优化

调整：

实例总体（高级优化，扩展）

  1. thread_concurrency #并发线程数量个数   
  2. sort_buffer_size #排序缓存   
  3. read_buffer_size #顺序读取缓存   
  4. read_rnd_buffer_size #随机读取缓存   
  5. key_buffer_size #索引缓存   
  6. thread_cache_size #线程缓存(1G—>8, 2G—>16, 3G—>32, >3G—>64) 

链接层（基础优化）

设置合理的链接客户和链接方式

  1. max_connections #最大链接数，看交易笔数设置   
  2. max_connect_errors #最大错误链接数，能大则大   
  3. connect_timeout #链接超时   
  4. max_user_connections #最大用户链接数  
  5. skip-name-resolve #跳过域名解析   
  6. wait_timeout #等待超时   
  7. back_log #能够在堆栈中的链接数量 

SQL层（基础优化）

  •  query_cache_size： 查询缓存
  •  OLAP类型数据库,须要重点加大此内存缓存.
  •  可是通常不会超过GB.
  •  对于常常被修改的数据，缓存会立马失效。
  •  咱们能够实用内存数据库（redis、memecache），替代他的功能。

1.6.2 存储引擎层（innodb基础优化参数）

  1. default-storage-engine   
  2. innodb_buffer_pool_size # 没有固定大小，50%测试值，看看状况再微调。可是尽可能设置不要超过物理内存70% innodb_file_per_table=(1,0)   
  3. innodb_flush_log_at_trx_commit=(0,1,2) #1是最安全的，0是性能最高，2折中   
  4. binlog_sync   
  5. Innodb_flush_method=(O_DIRECT, fdatasync)   
  6. innodb_log_buffer_size #100M如下   
  7. innodb_log_file_size #100M 如下   
  8. innodb_log_files_in_group #5个成员如下,通常2-3个够用（iblogfile0-N）   
  9. innodb_max_dirty_pages_pct #达到百分之75的时候刷写 内存脏页到磁盘。 log_bin   
  10. max_binlog_cache_size #能够不设置   
  11. max_binlog_size #能够不设置   
  12. innodb_additional_mem_pool_size #小于2G内存的机器，推荐值是20M。32G内存以上100M 
相关文章
相关标签/搜索
每日一句
    每一个你不满意的现在，都有一个你没有努力的曾经。
本站公众号
   欢迎关注本站公众号,获取更多信息
联系我们 最近搜索 最新文章 沪ICP备13005482号-10 MyBatis教程 SQL 教程 MySQL教程 Java 教程 Thymeleaf 教程 Hibernate教程 Spring教程 Redis教程