最近测试组那边反应数据库部分写入失败,app层提示是插入成功,但表里面里面没有产生数据,而两个写入操做的另一个表有数据。由于 insert 失败在数据库层面是看不出来的,因而找php的同事看下错误信息:php
1 |
[Err] 1364 - Field `f_company_id` doesn't have a default value |
很明显2个 insert 操做,第一条成功,第二条失败了,但由于没有控制在一个事务当中,致使app里面依然提示成功,这是客户入库操做,心想若是线上也有这个问题得是多大的代价。html
不说开发的问题,好端端的mysql怎么忽然就部分表写入失败呢?根据上面的问题很快能猜到是 sql_mode 问题: NOT NULL 列没有默认值但代码里也没给值,在非严格模式下,int列默认为0,string列默认为’’了,因此不成问题;但在严格模式下,是直接返回失败的。java
一看,果真:mysql
1 |
mysql> show variables like "sql_mode"; |
可是一直是没问题的的,就忽然出现了,有谁会去改 sql_mode 呢,生产环境产生这个问题的风险有多大?因此必须揪出来。sql
先 set global sql_mode=''
,让他们用着先(文后会给解决问题根本的办法),同时打开general_log看是哪个用户有相似设置 sql_mode 命令:数据库
1 |
1134456 Query SET autocommit=1 |
看出是java组那边哪一个框架创建链接的时候使用设置了sql_mode,但这是session级别的,不影响php那边用户的链接。session
那会是什么缘由在 set global 以后又变回strict模式呢,因而想到 mysqld_safe 启动实际是一个保护进程,在mysqld异常中止以后会拉起来,会不会中间有异常致使 mysqld 重启,导致 global 失效?看了mysql错误日志,才想到前些天断过电,因此决定直接改 /etc/my.cnf
配置:并发
1 |
[mysqld] |
重启myqld以后,仍是STRICT_TRANS_TABLES,NO_ENGINE_SUBSTITUTION
,不多遇到my.cnf里面配置不生效的状况。无独有偶,在 stackoverflow上找到一样的问题 how-to-make-sql-mode-no-engine-substitution-permanent-in-mysql-my-cnf ,缘由很简单,sql_mode这个选项被其它地方的配置覆盖了。oracle
了解一下mysql配置文件的加载顺序:app
1 |
$ mysqld --help --verbose|grep -A1 -B1 cnf |
mysql按照上面的顺序加载配置文件,后面的配置项会覆盖前面的。最后终于在 /usr/my.cnf
找到有一条sql_mode=NO_ENGINE_SUBSTITUTION,STRICT_TRANS_TABLES
,把这个文件删掉,/etc/my.cnf 里面的就生效了。
可是目前没能整明白的是,mysql运行这么长时间怎么忽然在/usr
(MYSQL_BASE)下多个my.cnf,也不像人为建立的。其它实例也没这样的问题。
相似还出现过一例:存储过程里把 ‘’ 传给int型的,严格模式是不容许,而非严格模式只是一个warning。(命令行执行完语句后,show warnings
可看见)
那么解决这类问题的终极(推荐)办法实际上是,考虑到数据的兼容性和准确性,MySQL就应该运行在严格模式下!不管开发环境仍是生产环境,不然代码移植到线上可能产生隐藏的问题。
sql_mode 问题能够很简单,也能够很复杂。曾经在一个交流群里看到有人提到,主从sql_mode设置不一致致使复制异常,这里本身正好全面了解一下几个经常使用的值,方便之后排除问题多个方向。
官方手册专门有一节介绍 https://dev.mysql.com/doc/refman/5.6/en/sql-mode.html 。 SQL Mode 定义了两个方面:MySQL应支持的SQL语法,以及应该在数据上执行何种确认检查。
SQL语法支持类
ONLY_FULL_GROUP_BY
对于GROUP BY聚合操做,若是在SELECT中的列、HAVING或者ORDER BY子句的列,没有在GROUP BY中出现,那么这个SQL是不合法的。是能够理解的,由于不在 group by 的列查出来展现会有矛盾。
在5.7中默认启用,因此在实施5.6升级到5.7的过程须要注意:
1 |
Expression #1 of SELECT list is not in GROUP BY |
ANSI_QUOTES
启用 ANSI_QUOTES 后,不能用双引号来引用字符串,由于它被解释为识别符,做用与 ` 同样。
设置它之后,update t set f1="" ...
,会报 Unknown column ‘’ in ‘field list 这样的语法错误。
PIPES_AS_CONCAT
||
视为字符串的链接操做符而非 或 运算符,这和Oracle数据库是同样的,也和字符串的拼接函数 CONCAT() 相相似NO_TABLE_OPTIONS
SHOW CREATE TABLE
时不会输出MySQL特有的语法部分,如 ENGINE
,这个在使用 mysqldump 跨DB种类迁移的时候须要考虑。NO_AUTO_CREATE_USER
GRANT ... ON ... TO dbuser
顺道一块儿建立用户。设置该选项后就与oracle操做相似,受权以前必须先创建用户。5.7.7开始也默认了。数据检查类
NO_ZERO_DATE
NO_ZERO_DATE
,效果与上面同样,’0000-00-00’容许但显示warning;若是没有设置NO_ZERO_DATE
,no warning,当作彻底合法的值。NO_ZERO_IN_DATE
状况与上面相似,不一样的是控制日期和天,是否可为 0 ,即 2010-01-00
是否合法。NO_ENGINE_SUBSTITUTION
ALTER TABLE
或CREATE TABLE
指定 ENGINE 时, 须要的存储引擎被禁用或未编译,该如何处理。启用NO_ENGINE_SUBSTITUTION
时,那么直接抛出错误;不设置此值时,CREATE用默认的存储引擎替代,ATLER不进行更改,并抛出一个 warning .STRICT_TRANS_TABLES
STRICT_TRANS_TABLES
不是几种策略的组合,单独指 INSERT
、UPDATE
出现少值或无效值该如何处理:上面并无囊括全部的 SQL Mode,选了几个表明性的,详细仍是 看手册。
sql_mode通常来讲不多去关注它,没有遇到实际问题以前不会去启停上面的条目。咱们常设置的 sql_mode 是 ANSI
、STRICT_TRANS_TABLES
、TRADITIONAL
,ansi和traditional是上面的几种组合。
ANSI
:更改语法和行为,使其更符合标准SQLTRADITIONAL
:更像传统SQL数据库系统,该模式的简单描述是当在列中插入不正确的值时“给出错误而不是警告”。ORACLE
:至关于 PIPES_AS_CONCAT, ANSI_QUOTES, IGNORE_SPACE, NO_KEY_OPTIONS, NO_TABLE_OPTIONS, NO_FIELD_OPTIONS, NO_AUTO_CREATE_USER不管何种mode,产生error以后就意味着单条sql执行失败,对于支持事务的表,则致使当前事务回滚;但若是没有放在事务中执行,或者不支持事务的存储引擎表,则可能致使数据不一致。MySQL认为,相比直接报错终止,数据不一致问题更严重。因而 STRICT_TRANS_TABLES
对非事务表依然尽量的让写入继续,好比给个”最合理”的默认值或截断。而对于 STRICT_ALL_TABLES
,若是是单条更新,则不影响,但若是更新的是多条,第一条成功,后面失败则会出现部分更新。
5.6.6 之后版本默认就是NO_ENGINE_SUBSTITUTION,STRICT_TRANS_TABLES
,5.5默认为 ‘’ 。
查看
1 |
查看当前链接会话的sql模式: |
设置
1 |
形式如 |
配置文件里面设置sql-mode=""
。
updated: 2017-12-10
现网作数据迁移测试时报另外一个错误,起因是这样的:一个1.8亿的表里面,由于某种缘由须要把字段定义null改成not null,避免下游服务(如ES)处理特殊数据时异常状况。但这是一个并发dml很是高又达到100多G的大表,online ddl针对这种修改字段类型简直一筹莫展,pt-osc也慢的很。
恰好有一个作数据迁移的契机,本来打算在新库上把字段改好,再经过dts或相似的数据迁移工具,同步过去。在非严格模式下,本来是null的值也会变成0或’’,但仍是报错了:
1 |
set sql_mode=''; -- 置为非严格模式 |
找到官方文档上的原话,能够解释:
If you are not using strict mode, then whenever you insert an “incorrect” value into a column, such as a NULL into a NOT NULL column or a too-large numeric value into a numeric column, MySQL sets the column to the “best possible value” instead of producing an error
If you try to store NULL into a column that doesn’t take NULL values, an error occurs for single-row INSERT statements. For multiple-row INSERT statements or for INSERT INTO … SELECT statements, MySQL Server stores the implicit default value for the column data type
非严格模式下,单行插入 null 到 not null 列,会失败;多行插入则只是warning。规则是这样,也就无需解释。