MySQL 5.7版本新特性连载(一)
本文将和你们一块儿分享下5.7的新特性,不过咱们要先从即将被删除的特性以及建议再也不使用的特性提及。根据这些状况,咱们在新版本及之后的版本中,应该再也不使用,避免将来产生兼容性问题。html
本文是基于MySQL-5.7.7-rc版本,将来可能 还会发生更多变化。mysql
一、即将删除的特性
1.一、InnoDB monitoring features,详见:WL#7377(访问地址:http://dev.mysql.com/worklog/task/?id=7377,下面的其余WL,能够自行替换)
【建议】能够动态修改 innodb_status_output、innodb_status_output_locks 两个参数的值打印相关信息,或者直接查看INFORMATION_SCHEMA下的相关表。linux
1.二、old-password,4.1以前的就密码认证模式已经禁用,old_passwords参数不可用,WL#8006
【建议】尽快升级旧密码串,同时升级MySQL版本,不要告诉我,你还在用4.1甚至更早的版本。算法
1.三、部分SQL语法不可用
1.3.一、ALTER TABLE … IGNORE。
1.3.二、INSERT DELAY特性,但保留这个语法。WL#6073
1.3.三、ERROR_FOR_DIVISION_BY_ZERO, NO_ZERO_DATE, NO_ZERO_IN_DATE SQL MODES 等几个SQL MODE合并到STRICT中。不过可能会致使replication失败,因此还在考虑中。WL#7467
1.3.四、再也不支持YEAR(2),建议尽快升级成YEAR(4)。WL#6263
【建议】尽量使用标准SQL语法,再也不使用MySQL特有的,或者不是那么严格要求的语法,避免之后版本升级遇到更多麻烦。sql
1.四、一些参数不可用
1.4.一、再也不支持一些指令的简短写法,必需要求写全了,例如mysqldump –compr表示 mysqldump –compress,之后必须将整个参数写完整。WL#6978
1.4.二、删除timed_mutexes。WL#7436
1.4.三、不能再禁用InnoDB引擎,由于系统表也都改为InnoDB了。WL#7976
1.4.四、性能提高有限,删除innodb_use_sys_malloc、innodb_additional_mem_pool_size。WL#7628
1.4.五、意义不大,删除innodb_mirrored_log_groups。WL#6808
1.4.六、已经有新的系统参数代替了,删除innodb_file_io_threads。WL#7149
1.4.七、删除系统参数storage_engine,改用default_storage_engine。WL#7148
1.4.八、删除mysql_upgrade中的–basedir和–datadir系统参数。WL#7010shell
1.五、一些客户端工具
mysqlaccess、mysql_convert_table_format、mysql_fix_extensions、mysql_find_rows.sh、mysql_setpermission、msql2mysql、mysqlbug、mysql_zap and mysql_waitpid、mysqlhotcopy将再也不使用。
【建议】没什么好说的,顺应潮流跟上新版本吧,该放弃的就放弃,不要抱残守缺了,这些工具也基本上都用不上的。bootstrap
下一期,咱们讲讲5.7中再也不建议使用的特性, 也就是将来可能会被删除的特性。安全
MySQL 5.7版本新特性连载(二)
本文将和你们一块儿分享下5.7的新特性,不过咱们要先从即将被删除的特性以及建议再也不使用的特性提及。根据这些状况,咱们在新版本及之后的版本中,应该再也不使用,避免将来产生兼容性问题。服务器
本文是基于MySQL-5.7.7-rc版本,将来可能 还会发生更多变化。session
二、预计取消的特性
2.一、客户端交互协议中,EOF协议包不建议再使用了,建议改为OK协议包。WL#7766
2.二、不建议使用SHOW PROFILE指令,或直接从INFORMATION_SCHEMA.PROFILING中查看,建议利用PERFORMANCE_SCHEMA中的几个视图查看。WL#6802
2.二、基于DES算法的加解密函数不建议使用, 取而代之的是用基于AES的加解密函数。WL#8126
2.四、同上,还不建议使用ENCODE()/DECODE()函数。WL#6984
2.五、采用ALTER USER来为用户修改密码,不建议再使用SET PASSWORD修改密码。WL#6409
2.六、和InnoDB相关的4个系统参数innodb_large_prefix、innodb_file_format、innodb_file_format_check、innodb_file_format_max再也不建议使用。WL#7703
2.七、再也不建议在EXPLAIN后面加上EXTENDED/PARTITIONS关键字。WL#7027
2.八、再也不建议使用collation_database、character_set_database系统参数。WL#2.11
2.九、再也不建议使用sync_frm系统参数。WL#8216
2.十、再也不建议使用@@session.gtid_executed系统变量。WL#7518
MySQL 5.7版本新特性连载(三)
本文是基于MySQL-5.7.7-rc版本,将来可能 还会发生更多变化。本节开始讲5.7版本中的新特性。
一、安全性
a. 用户表 mysql.user 的 plugin字段不容许为空, 默认值是 mysql_native_password,而不是 mysql_old_password,再也不支持旧密码格式;
b. 增长密码过时机制,过时后须要修改密码,不然可能会被禁用,或者进入沙箱模式;
c. 使用 mysql_install_db 初始化时,默认会自动生成随机密码,而且不建立除 root@localhost 外的其余帐号,也不建立 test 库;
【新特性实践】
执行 mysql_install_db 进行新实例初始化:
[yejr@imysql.com]# ./bin/mysql_install_db --user=mysql --datadir=/data/mysql/ 2015-06-24 13:55:29 [WARNING] mysql_install_db is deprecated. Please consider switching to mysqld --initialize 2015-06-24 13:55:38 [ERROR] Child process: /opt/17173_install/mysql-5.7.7-rc-linux-glibc2.5-x86_64/bin/mysqld terminated prematurely with errno= 32 2015-06-24 13:55:38 [ERROR] Failed to execute /opt/17173_install/mysql-5.7.7-rc-linux-glibc2.5-x86_64/bin/mysqld --bootstrap --datadir=/data/mysql --lc-messages-dir=/usr/share/mysql --lc-messages=en_US -- server log begin -- mysqld: [Warning] --bootstrap is deprecated. Please consider using --initialize instead -- server log end --
能够看到提示 mysql_install_db 已经再也不推荐使用了,建议改为 mysqld –initialize 完成实例初始化。
改为 mysqld –initialize 后,若是 datadir 指向的目标目录下已经有数据文件,则会有相似提示:
[yejr@imysql.com]#./bin/mysqld --user=mysql --basedir=/opt/17173_install/mysql-5.7.7-rc-linux-glibc2.5-x86_64/ --datadir=/data/mysql --initial --initialize-insecure 2015-06-24T06:05:05.533588Z 0 [ERROR] --initialize specified but the data directory has files in it. Aborting. 2015-06-24T06:05:05.533627Z 0 [ERROR] Aborting
所以,须要先确保 datadir 目标目录下是空的,避免误操做破坏已有数据。
另外,在初始化时若是加上 –initial-insecure,则会建立空密码的 root@localhost 帐号,不然会建立带密码的 root@localhost 帐号,密码直接写在 log-error 日志文件中(在5.6版本中是放在 ~/.mysql_secret 文件里,更加隐蔽,不熟悉的话可能会无所适从)
[yejr@imysql.com]#./bin/mysqld --user=mysql --basedir=/opt/17173_install/mysql-5.7.7-rc-linux-glibc2.5-x86_64/ --datadir=/data/mysql --initial 2015-06-24T06:14:31.458905Z 0 [Warning] Insecure configuration for --secure-file-priv: Current value does not restrict location of generated files. Consider setting it to a valid, non-empty path.
初始化完毕后,若是没使用新版本的客户端登入,还会报告相似下面的错误:
mysql -uroot -p Enter password: ERROR 1862 (HY000): Your password has expired. To log in you must change it using a client that supports expired passwords.
上面的错误提示意思是须要用当前版本的客户端登入,由于新用户登入后须要马上修改密码,不然没法继续后续的工做:
[(root@imysql.com)]>use mysql ERROR 1820 (HY000): You must SET PASSWORD before executing this statement [(root@imysql.com)]>set password = password('abcd'); Query OK, 0 rows affected, 1 warning (0.00 sec)
修改完密码后,就能够继续使用旧版本的客户端工具了。
MySQL 5.7版本新特性连载(四)
本文是基于MySQL-5.7.7-rc版本,将来可能 还会发生更多变化。
一、SQL MODE变化
a. 默认启用 STRICT_TRANS_TABLES 模式;
b. 对 ONLY_FULL_GROUP_BY 模式实现了更复杂的特性支持,而且也被默认启用;
c. 其余被默认启用的sql mode还有 NO_ENGINE_SUBSTITUTION;
【iMySQL建议】
对广大MySQL使用者而言,以往不是那么严格的模式仍是很方便的,在5.7版本下可能会以为略为不适,慢慢习惯吧。好比向一个20字符长度的VARCHAR列写入30个字符,在之前会自动截断并给个提示告警,而在5.7版本下,则直接抛出错误了。我的认为这却是一个好的作法,避免各类奇葩的写法。
【新特性实践】
-- 查看默认的 sql_mode [yejr@imysql.com]> select @@sql_mode; +-----------------------------------------------------------------------------------+ | @@sql_mode | +-----------------------------------------------------------------------------------+ | ONLY_FULL_GROUP_BY,STRICT_TRANS_TABLES,NO_AUTO_CREATE_USER,NO_ENGINE_SUBSTITUTION | +-----------------------------------------------------------------------------------+ -- 插入50个字符 [yejr@imysql.com]> insert into t_char select 0, repeat('x',50); ERROR 1406 (22001): Data too long for column 'uname' at row 1 -- 修改本 session 的 sql_mode [yejr@imysql.com]> set sql_mode = 'ONLY_FULL_GROUP_BY,NO_AUTO_CREATE_USER,NO_ENGINE_SUBSTITUTION'; Query OK, 0 rows affected (0.00 sec) -- 去掉 STRICT_TRANS_TABLES 模式后 [yejr@imysql.com]> select @@sql_mode; +---------------------------------------------------------------+ | @@sql_mode | +---------------------------------------------------------------+ | ONLY_FULL_GROUP_BY,NO_AUTO_CREATE_USER,NO_ENGINE_SUBSTITUTION | +---------------------------------------------------------------+ [yejr@imysql.com]> insert into t_char select 0, repeat('x',50); Query OK, 1 row affected, 1 warning (0.00 sec) -- 提示有告警信息 Records: 1 Duplicates: 0 Warnings: 1 [yejr@imysql.com]> show warnings; +---------+------+--------------------------------------------+ | Level | Code | Message | +---------+------+--------------------------------------------+ | Warning | 1265 | Data truncated for column 'uname' at row 1 | +---------+------+--------------------------------------------+
由于 uname 字段的长度为 40 个字符。
二、优化online操做,例如修改buffer pool、修改索引名(非主键)、修改REPLICATION FILTER、修改MASTER而无需关闭SLAVE线程 等众多特性。
能够在线修改buffer pool对DBA来讲实在太方便了,实例运行过程当中能够动态调整,避免事先分配不合理的状况,不过 innodb_buffer_pool_instances 不能修改,并且在 innodb_buffer_pool_instances 大于 1 时,也不能将 buffer pool 调整到 1GB 之内,须要稍加注意。
若是是加大buffer pool,其过程大体是:
一、以innodb_buffer_pool_chunk_size为单位,分配新的内存pages; 二、扩展buffer pool的AHI(adaptive hash index)链表,将新分配的pages包含进来; 三、将新分配的pages添加到free list中;
若是是缩减buffer pool,其过程则大体是:
一、重整buffer pool,准备回收pages; 二、以innodb_buffer_pool_chunk_size为单位,释放删除这些pages(这个过程会有一点点耗时); 三、调整AHI链表,使用新的内存地址。
实际测试时,发如今线修改 buffer poo 的代价并不大,SQL命令提交完毕后都是瞬间完成,然后台进程的耗时也并不过久。在一个并发128线程跑tpcc压测的环境中,将 buffer pool 从32G扩展到48G,后台线程耗时 3秒,而从 48G 缩减回 32G 则耗时 18秒,期间压测的事务未发生任何锁等待。
-- 演示1:从 1G 扩大到 16G [yejr@imysql.com]> SET GLOBAL innodb_buffer_pool_size = 51539607552; Query OK, 0 rows affected (0.00 sec) -- 看看日志记录 09:21:19.460543Z 0 [Note] InnoDB: Resizing buffer pool from 1073741824 to 17179869184. (unit=134217728) 09:21:19.468069Z 0 [Note] InnoDB: disabled adaptive hash index. 09:21:20.760724Z 0 [Note] InnoDB: buffer pool 0 : 60 chunks (491511 blocks) were added. 09:21:21.922869Z 0 [Note] InnoDB: buffer pool 1 : 60 chunks (491520 blocks) were added. 09:21:21.935114Z 0 [Note] InnoDB: buffer pool 0 : hash tables were resized. 09:21:21.947264Z 0 [Note] InnoDB: buffer pool 1 : hash tables were resized. 09:21:22.203031Z 0 [Note] InnoDB: Resized hash tables at lock_sys, adaptive hash index, dictionary. 09:21:22.203062Z 0 [Note] InnoDB: Completed to resize buffer pool from 1073741824 to 17179869184. 09:21:22.203075Z 0 [Note] InnoDB: Re-enabled adaptive hash index. -- 演示2:从 16G 缩减到 1G [yejr@imysql.com]> SET GLOBAL innodb_buffer_pool_size = 1073741824; Query OK, 0 rows affected (0.00 sec) -- 看看日志记录 09:22:55.591669Z 0 [Note] InnoDB: Resizing buffer pool from 17179869184 to 1073741824. (unit=134217728) 09:22:55.680836Z 0 [Note] InnoDB: disabled adaptive hash index. 09:22:55.680864Z 0 [Note] InnoDB: buffer pool 0 : start to withdraw the last 491511 blocks. 09:22:55.765778Z 0 [Note] InnoDB: buffer pool 0 : withdrew 489812 blocks from free list. Tried to relocate 1698 pages (491510/491511). 09:22:55.774492Z 0 [Note] InnoDB: buffer pool 0 : withdrew 0 blocks from free list. Tried to relocate 1 pages (491511/491511). 09:22:55.782745Z 0 [Note] InnoDB: buffer pool 0 : withdrawn target 491511 blocks. 09:22:55.782786Z 0 [Note] InnoDB: buffer pool 1 : start to withdraw the last 491520 blocks. 09:22:55.892068Z 0 [Note] InnoDB: buffer pool 1 : withdrew 489350 blocks from free list. Tried to relocate 2166 pages (491517/491520). 09:22:55.900743Z 0 [Note] InnoDB: buffer pool 1 : withdrew 0 blocks from free list. Tried to relocate 2 pages (491519/491520). 09:22:55.908257Z 0 [Note] InnoDB: buffer pool 1 : withdrew 0 blocks from free list. Tried to relocate 0 pages (491519/491520). 09:22:55.915778Z 0 [Note] InnoDB: buffer pool 1 : withdrew 0 blocks from free list. Tried to relocate 1 pages (491520/491520). 09:22:55.923836Z 0 [Note] InnoDB: buffer pool 1 : withdrawn target 491520 blocks. 09:22:56.149172Z 0 [Note] InnoDB: buffer pool 0 : 60 chunks (491511 blocks) were freed. 09:22:56.308997Z 0 [Note] InnoDB: buffer pool 1 : 60 chunks (491520 blocks) were freed. 09:22:56.316258Z 0 [Note] InnoDB: buffer pool 0 : hash tables were resized. 09:22:56.324027Z 0 [Note] InnoDB: buffer pool 1 : hash tables were resized. 09:22:56.393589Z 0 [Note] InnoDB: Resized hash tables at lock_sys, adaptive hash index, dictionary. 09:22:56.393616Z 0 [Note] InnoDB: Completed to resize buffer pool from 17179869184 to 1073741824. 09:22:56.393628Z 0 [Note] InnoDB: Re-enabled adaptive hash index.
再来看下在线修改非主键索引名,直接用 ALTER TABLE RENAME INDEX 语法便可。
【新特性实践】
例以下面的SQL语法:
[yejr@imysql.com]> ALTER TABLE orders RENAME INDEX idx1 TO idxxx1; Query OK, 0 rows affected (0.11 sec) Records: 0 Duplicates: 0 Warnings: 0
能够看到,几乎瞬间完成,尽管我在执行这个SQL时正跑着64个并发tpcc压测。
MySQL 5.7版本新特性连载(五)
本文是基于MySQL-5.7.7-rc版本,将来可能 还会发生更多变化。
一、支持多源复制(Multi-source replication),这对采用分库分表的同窗绝对是个超级重磅福音。能够把多个MASTER的数据归并到一个实例上, 有助于提升SLAVE服务器的利用率。不过若是是同一个表的话,会存在主键和惟一索引冲突的风险,须要提早作好规划。
【新特性实践】
MySQL 5.7的多源复制采用多通道的模式,例如用如下方法能够建立多个复制通道,将多个MASTER上的数据复制到同一个SLAVE节点中去:
-- 须要先把 MASTER_INFO_REPOSITORY 和 RELAY_LOG_INFO_REPOSITORY 改为 TABLE 模式 [yejr@imysql.com]> SET GLOBAL MASTER_INFO_REPOSITORY = "TABLE"; Query OK, 0 rows affected (0.00 sec) [yejr@imysql.com]> SET GLOBAL RELAY_LOG_INFO_REPOSITORY = "TABLE"; Query OK, 0 rows affected (0.00 sec) -- 建立第一个复制通道 [yejr@imysql.com]> CHANGE MASTER TO MASTER_HOST='1.2.3.4', MASTER_USER='user', MASTER_PASSWORD='repl' FOR CHANNEL 'MASTER-01'; Query OK, 0 rows affected, 2 warnings (0.00 sec) -- 建立第二个复制通道 [yejr@imysql.com]> CHANGE MASTER TO MASTER_HOST='2.3.4.5', MASTER_USER='user', MASTER_PASSWORD='repl' FOR CHANNEL 'MASTER-02'; Query OK, 0 rows affected, 2 warnings (0.00 sec) -- 查看第二个复制通道的状态 [yejr@imysql.com]> SHOW SLAVE STATUS FOR CHANNEL 'MASTER-02'; *************************** 1. row *************************** Slave_IO_State: Master_Host: 2.3.4.5 Master_User: user Master_Port: 3306 Connect_Retry: 60 Master_Log_File: Read_Master_Log_Pos: 4 Relay_Log_File: yejr-relay-bin-master@002d02.000001 Relay_Log_Pos: 4 Relay_Master_Log_File: Slave_IO_Running: No Slave_SQL_Running: No Replicate_Do_DB: Replicate_Ignore_DB: Replicate_Do_Table: Replicate_Ignore_Table: Replicate_Wild_Do_Table: Replicate_Wild_Ignore_Table: Last_Errno: 0 Last_Error: Skip_Counter: 0 Exec_Master_Log_Pos: 0 Relay_Log_Space: 154 Until_Condition: None Until_Log_File: Until_Log_Pos: 0 Master_SSL_Allowed: No Master_SSL_CA_File: Master_SSL_CA_Path: Master_SSL_Cert: Master_SSL_Cipher: Master_SSL_Key: Seconds_Behind_Master: NULL Master_SSL_Verify_Server_Cert: No Last_IO_Errno: 0 Last_IO_Error: Last_SQL_Errno: 0 Last_SQL_Error: Replicate_Ignore_Server_Ids: Master_Server_Id: 0 Master_UUID: Master_Info_File: mysql.slave_master_info SQL_Delay: 0 SQL_Remaining_Delay: NULL Slave_SQL_Running_State: Master_Retry_Count: 86400 Master_Bind: Last_IO_Error_Timestamp: Last_SQL_Error_Timestamp: Master_SSL_Crl: Master_SSL_Crlpath: Retrieved_Gtid_Set: Executed_Gtid_Set: f0df162a-1a39-11e5-883a-782bcb65f419:1-11025782 Auto_Position: 0 Replicate_Rewrite_DB: Channel_Name: master-02 1 row in set (0.00 sec)
其余和复制相关的SQL指令和以往也基本同样,只需在加上 FOR CHANNEL ‘CHANNEL-NAME’ 子句便可。
此外,还支持在线修改replication filter规则,不过不是太建议使用filter规则,所以不重点介绍了。执行下面的SQL命令能够完成filter规则修改:
[yejr@imysql.com]> CHANGE REPLICATION FILTER REPLICATE_DO_DB = (d1), REPLICATE_IGNORE_DB = (d2);
二、支持多线程复制(Multi-Threaded Slaves, 简称MTS),在5.6版本中实现了SCHEMA级别的并行复制,不过意义不大,由于咱们线上大部分实例的读写压力基本集中在某几个数据表,基本无助于缓解复制延迟问题。却是MariaDB的多线程并行复制大放异彩,有很多人由于这个特性选择MariaDB(好比我也是其一,呵呵)。
MySQL 5.7 MTS支持两种模式,一种是和5.6同样,另外一种则是基于binlog group commit实现的多线程复制,也就是MASTER上同时提交的binlog在SLAVE端也能够同时被apply,实现并行复制。关于MTS的更多详细介绍能够查看姜承尧的分享 MySQL 5.7 并行复制实现原理与调优,我这里就不重复说了。
值得一提的是,通过对比测试,5.7采用新的并行复制后,仍然会存在必定程度的延迟,只不过相比5.6版本减小了86%,相比MariaDB的并行复制延迟也小很多。
MySQL 5.7版本新特性连载(六)
本文是基于MySQL-5.7.7-rc版本,将来可能 还会发生更多变化。
- 自动判断底层I/O设备是否能够支持原子IO(AIO),检测到的话,会自动关闭 double write buffer,进一步提高性能。
- 支持 innodb_page_cleaners 选项可设置多个page cleaner线程提升脏页刷新效率。
- 可经过设置 innodb_undo_log_truncate 等选项自动删除不用的 undo log。
- 增强InnoDB read-only模式的性能。
- 支持一个表上有多个触发器,这样一来,原先已有触发器表也能够支持用 pt-osc 了。
- 新增 log_syslog 选项,可将MySQL日志打印到系统日志文件中。
- InnoDB和MyISAM引擎的分区表也支持ICP特性。
- 支持对在线某个链接直接查看执行计划,好比 EXPLAIN FOR CONNECTION 1024。
- 支持在线(INPLACE)增长 VARCHAR 列的长度。不过 0-255 长度是一个区间,256 以上是另外一个区间,不能跨越255这个坎,好比把长度从 100 扩展成 1000(由于 255 长度之内额外用1个字节表示,大于 255 长度则须要额外2个字节表示)。另外还不支持在线缩小 VARCHAR 的长度。
- 以及更多关于性能上的改善提高,包括客户端链接效率提高、批量数据加载效率提高、sort buffer中存储的非排序字段是压缩模式的(提升内存利用率)、UNION ALL再也不产生临时表、解析器重构、查询优化器进一步完善(好比增长可控CBO规则)等等。
以上内容出自http://imysql.com,感受叶老师的分享!
http://dev.mysql.com/doc/refman/5.7/en/mysql-nutshell.html#mysql-nutshell-removals