MYSQL 应该是最流行了 WEB 后端数据库。WEB 开发语言近期发展很是快,PHP, Ruby, Python, Java 各有特色,尽管 NOSQL 近期越來越多的被提到,但是相信大部分架构师仍是会选择 MYSQL 来作数据存储。mysql
MYSQL 如此方便和稳定。以致于咱们在开发 WEB 程序的时候很是少想到它。即便想到优化也是程序级别的,比方。不要写过于消耗资源的 SQL 语句。但是除此以外,在整个系统上仍然有很是多可以优化的地方。ios
除非你的数据表使用来作仅仅读或者全文检索 (相信现在提到全文检索,没人会用 MYSQL 了)。你应该默认选择 InnoDB 。sql
你本身在測试的时候可能会发现 MyISAM 比 InnoDB 速度快。这是因为: MyISAM 仅仅缓存索引,而 InnoDB 缓存数据和索引,MyISAM 不支持事务。但是 假设你使用 innodb_flush_log_at_trx_commit = 2 可以得到接近的读取性能 (相差百倍) 。数据库
mysql -u [USER_NAME] -p -e "SHOW TABLES IN [DATABASE_NAME];" | tail -n +2 | xargs -I '{}' echo "ALTER TABLE {} ENGINE=InnoDB;" > alter_table.sql perl -p -i -e 's/(search_[a-z_]+ ENGINE=)InnoDB//1MyISAM/g' alter_table.sql mysql -u [USER_NAME] -p [DATABASE_NAME] < alter_table.sql
innodb_file_per_table=1
这样可以保证 ibdata1 文件不会过大。失去控制。尤为是在运行 mysqlcheck -o –all-databases 的时候。后端
推荐将数据全然保存在 innodb_buffer_pool_size ,即按存储量规划 innodb_buffer_pool_size 的容量。这样你可以全然从内存中读取数据。最大限度下降磁盘操做。缓存
方法 1安全
mysql> SHOW GLOBAL STATUS LIKE 'innodb_buffer_pool_pages_%'; +----------------------------------+--------+ | Variable_name | Value | +----------------------------------+--------+ | Innodb_buffer_pool_pages_data | 129037 | | Innodb_buffer_pool_pages_dirty | 362 | | Innodb_buffer_pool_pages_flushed | 9998 | | Innodb_buffer_pool_pages_free | 0 | !!!!!!!! | Innodb_buffer_pool_pages_misc | 2035 | | Innodb_buffer_pool_pages_total | 131072 | +----------------------------------+--------+ 6 rows in set (0.00 sec)
发现 Innodb_buffer_pool_pages_free 为 0,则说明 buffer pool 已经被用光,需要增大 innodb_buffer_pool_size架构
InnoDB 的其它几个參数:框架
innodb_additional_mem_pool_size = 1/200 of buffer_pool innodb_max_dirty_pages_pct 80%
方法 2函数
或者用iostat -d -x -k 1 命令,查看硬盘的操做。
运行 echo 1 > /proc/sys/vm/drop_caches 清除操做系统的文件缓存。可以看到真正的内存使用量。
默认状况,仅仅有某条数据被读取一次,才会缓存在 innodb_buffer_pool。因此,数据库刚刚启动,需要进行数据预热,将磁盘上的所有数据缓存到内存中。
数据预热可以提升读取速度。
对于 InnoDB 数据库,可以用下面方法,进行数据预热:
1. 将下面脚本保存为 MakeSelectQueriesToLoad.sql
SELECT DISTINCT CONCAT('SELECT ',ndxcollist,' FROM ',db,'.',tb, ' ORDER BY ',ndxcollist,';') SelectQueryToLoadCache FROM ( SELECT engine,table_schema db,table_name tb, index_name,GROUP_CONCAT(column_name ORDER BY seq_in_index) ndxcollist FROM ( SELECT B.engine,A.table_schema,A.table_name, A.index_name,A.column_name,A.seq_in_index FROM information_schema.statistics A INNER JOIN ( SELECT engine,table_schema,table_name FROM information_schema.tables WHERE engine='InnoDB' ) B USING (table_schema,table_name) WHERE B.table_schema NOT IN ('information_schema','mysql') ORDER BY table_schema,table_name,index_name,seq_in_index ) A GROUP BY table_schema,table_name,index_name ) AA ORDER BY db,tb ;
2. 运行
mysql -uroot -AN < /root/MakeSelectQueriesToLoad.sql > /root/SelectQueriesToLoad.sql
3. 每次从新启动数据库,或者整库备份前需要预热的时候运行:
mysql -uroot < /root/SelectQueriesToLoad.sql > /dev/null 2>&1
假设是专用 MYSQL server。可以禁用 SWAP,假设是共享server,肯定 innodb_buffer_pool_size 足够大。或者使用固定的内存空间作缓存,使用 memlock 指令。
mysqlcheck -o –all-databases 会让 ibdata1 不断增大。真正的优化仅仅有重建数据表结构:
CREATE TABLE mydb.mytablenew LIKE mydb.mytable; INSERT INTO mydb.mytablenew SELECT * FROM mydb.mytable; ALTER TABLE mydb.mytable RENAME mydb.mytablezap; ALTER TABLE mydb.mytablenew RENAME mydb.mytable; DROP TABLE mydb.mytablezap;
但是需要注意假设用 1G 的 innodb_log_file_size 。假如server当机。需要 10 分钟来恢复。
推荐 innodb_log_file_size 设置为 0.25 * innodb_buffer_pool_size
这个选项和写磁盘操做密切相关:
innodb_flush_log_at_trx_commit = 1 则每次改动写入磁盘
innodb_flush_log_at_trx_commit = 0/2 每秒写入磁盘
假设你的应用不涉及很是高的安全性 (金融系统),或者基础架构足够安全,或者 事务都很是小,都可以用 0 或者 2 来减小磁盘操做。
innodb_flush_method=O_DIRECT
RAID0 尤为是在使用 EC2 这样的虚拟磁盘 (EBS) 的时候,使用软 RAID0 很重要。
SHOW CREATE TABLE db1.tb1/G
6.2 加入必要的索引
索引是提升查询速度的惟一方法。比方搜索引擎用的倒排索引是同样的原理。
索引的加入需要依据查询来肯定。比方经过慢查询日志或者查询日志,或者经过 EXPLAIN 命令分析查询。
ADD UNIQUE INDEX ADD INDEX
加入索引
ALTER TABLE users ADD UNIQUE INDEX username_ndx (username); ALTER TABLE users ADD UNIQUE INDEX username_password_ndx (username,password);
每次从新启动server进行数据预热
echo “select username,password from users;” > /var/lib/mysql/upcache.sql
加入启动脚本到 my.cnf
[mysqld] init-file=/var/lib/mysql/upcache.sql
比方。Rails 这种框架。会本身主动加入索引。Drupal 这种框架会本身主动拆分表结构。
会在你开发的初期指明正确的方向。因此,经验不太丰富的人一開始就追求从 0 開始构建,实际是很差的作法。
记录所有查询。这在用 ORM 系统或者生成查询语句的系统很是实用。
log=/var/log/mysql.log
注意不要在生产环境用。不然会占满你的磁盘空间。
记录运行时间超过 1 秒的查询:
long_query_time=1 log-slow-queries=/var/log/mysql/log-slow-queries.log
现在基础设施的可靠性已经很是高了,比方 EC2 差点儿不用操心server硬件当机。而且内存实在是廉价。很是easy买到几十G内存的server,可以用内存磁盘。按期备份到磁盘。
将 MYSQL 文件夹迁移到 4G 的内存磁盘
mkdir -p /mnt/ramdisk sudo mount -t tmpfs -o size=4000M tmpfs /mnt/ramdisk/ mv /var/lib/mysql /mnt/ramdisk/mysql ln -s /tmp/ramdisk/mysql /var/lib/mysql chown mysql:mysql mysql
B-TREE 仍然是最高效的索引之中的一个,所有 MYSQL 仍然不会过期。
用 HandlerSocket 跳过 MYSQL 的 SQL 解析层。MYSQL 就真正变成了 NOSQL。