mysql关于数值精度问题

问题来源:java

前几天用户向我反映了一个问题,有一个金额字段当输入到达百万级时,个位数的精度会丢失,即1000001会显示为100W,而后我就开始查找问题所在。mysql

 

背景:sql

首先,实体类该字段为float类型,mysql类型也为float,而后当我在后台保存数据时:数据库

假设金额nowPrice = 1008622java输出为:1008620,而mysql显示为:数组

显然是由于科学计数法把个位数的精度丢失了,从而致使数据出错。
oracle

 

问题分析过程:测试

一开始我认为是java问题,由于floatdouble类型当位数过多时会自动转化为科学计数法,可能在转换的过程当中精度丢失了,从而致使数据库的数据出错。spa

为了验证以上说法,我使用sql查询语句来测试,结果:ci

 

 

即便用1008622做为条件能够正确查询到记录,而使用1008620是不能查询到记录的,所以我认为数据库的真实数据是正确的,但显示则使用丢失了精度的科学计数法。字符串

 

而后我直接使用mysql驱动链接数据库并查询结果,发现ResultSet rs.getString("nowPrice") = 1.00862e+06rs.getFloat("nowPrice") = 1008620.0,可见mysql是把丢失了精度的科学计数法直接返回给应用。

至此能够肯定是mysql的问题了,因而我查询了相关资料并请教公司DBA,原来floatdouble是属于非标准类型,他们在mysql中保存的是近似值,会致使精度问题。

以后我作了更多测试,包括添加小数点数值。当添加了小数点以后,基本上没法使用该字段做精确的条件查询出来了。

PS:可使用此方法查出来:select * from tt_price where price = (select price from tt_price);

 

总结float类型的问题:1.数值达到百万级别时真实数值与显示数值不一致;2.返回给应用的数值不是真实数值;3.小数点位数过多时会进行四舍五入,致使查询、更新操做出现异常状况。

相似的double类型一样存在以上的问题,只不过double是双精度,须要更高位数时才能出现这种问题。

 

结论:

所以,在比较敏感的字段上如金额等字段,建议使用:mysql使用decimal类型,oracle使用Number类型。Decimal是以字符串的形式保存数值,Number则是变长阿拉伯数字数组。二者都可以指定总位数和小数位,另外精度和小数位不会影响数据如何存储,只会影响容许哪些数值及数值如何舍入。

 

续篇:

后来通过测试,mysqlfloatdouble也能够指定总位数和小数位,显式地指定位数和小数位后效果与decimal无差,不会存上真实数值与显示数值不一致,所以float基本能知足咱们的平常需求了,只是必需要指定位数而已。

相关文章
相关标签/搜索