公司最近在作交易系统,交易系统确定是要和钱打交道的,和钱有关,天然而然很容易想到用float存储,可是使用float存储金额作的计算是近似计算。老板,用float作计算形成公司损失的钱都往你工资里扣html
首先看个例子:FloatTest.javajava
public class FloatTest {
public static void main(String[] args) {
float f1 = 6.6f;
float f2 = 1.3f;
System.out.println(f1 + f2);
}
}
复制代码
结果:7.8999996 和本身口算的值居然不同mysql
计算机只认识0和1,全部类型的计算首先会转化为二进制的计算sql
计算是由CPU来完成的,CPU表示浮点数由三部分组成 分为三个部分,符号位(sign),指数部分(exponent)和有效部分(fraction, mantissa)。 其中float总共占用32位,符号位,指数部分,有效部分各占1位,8位,23位 数据库
对于实数,转化为二进制分为两部分,第一部分整数部分,第二部分是小数部分。整数部分计算二进制你们都很熟悉。bash
除以2 | 结果 | 小数部分 |
---|---|---|
6 | 3 | 0 |
3 | 1 | 1 |
1 | 0 | 1 |
因此6最终的二进制为110性能
将小数乘以2,取整数部分做为二进制的值,而后再将小数乘以2,再取整数部分,以此往复循环测试
乘以2 | 整数部分 | 小数部分 |
---|---|---|
1.2 | 1 | 0.2 |
0.4 | 0 | 0.4 |
0.8 | 0 | 0.8 |
1.6 | 1 | 0.6 |
1.2 | 1 | 0.2 |
...进入循环,循环体为1001 因此0.6转化为二进制为0.10011001... 6.6转化为二进制为110.10011001...ui
经过规约化将小数转为规约形式,相似科学计数法,就是保证小数点前面有一个有效数字。在二进制里面,就是保证整数位是一个1。110.10011001规约化为:1.1010011001*2^2spa
指数偏移值 = 固定值 + 规约化的指数值 固定值=2^(e-1)-1,其中的e为存储指数部分的比特位数,前面提到的float为8位。因此float中规定化值为127 6.6的二进制值规约化之后为1.1010011001*2^2,指数是2,因此偏移值就是127+2=129,转换为二进制就是10000001,
6.6为正数,符号位为0,指数部分为偏移值的二进制10000001,有效部分为规约形式的小数部分,取小数的前23位即10100110011001100110011,最后拼接到一块儿即 01000000110100110011001100110011 到这里已经大体能够知道float为何不精确了,首先在存储的时候就会形成精度损失了,在这里小数部分的二进制是循环的,可是仍然只能取前23位。double形成精度损失的缘由也是如此
原来如此
column_name decimal(P,D);
复制代码
D:表明小数点后的位数 P:有效数字数的精度,小数点也算一位 测试例子 数据表的建立:CREATE TABLE `test_decimal` (
`id` int(11) NOT NULL,
`amount` decimal(10,2) NOT NULL
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4
复制代码
对应的DAO层代码:TestDecimalDao.java/**
* @description dao层
*
* @author JoyHe
* @date 2018/11/05
* @version 1.0
*/
@Repository
public interface TestDecimalDao {
@Select("select * from test_decimal where id = #{id}")
TestDecimal getTestDecimal(int id);
}
复制代码
测试类:TestDecimalDaoTest.java/**
* @description 测试类
*
* @author JoyHe
* @date 2018/11/05
* @version 1.0
*/
public class TestDecimalDaoTest extends BaseTest {
@Resource
private TestDecimalDao testDecimalDao;
@Test
public void test() {
TestDecimal testDecimal1 = testDecimalDao.getTestDecimal(1);
TestDecimal testDecimal2 = testDecimalDao.getTestDecimal(2);
BigDecimal result = testDecimal1.getAmount().add(testDecimal2.getAmount());
System.out.println(result.floatValue());
}
}
复制代码
说明:jdbcType为decimal转化为javaType为BigDecimal 测试结果:
参考:
1.《浮点计算精度损失缘由》 2.《高性能MySQL》