【javascript】浮点数运算问题分析及解决方法

问题:javascript

在用 js 进行小数四则运算时发现了一个重大问题,好比:0.7 * 0.8 = 0.5599999999999999java

分析:chrome

在 js 中只有一种数字类型 Number,并且在 js 中全部的数字都是以 IEEE-754 标准格式表示的。浮点数的精度问题并非 js 特有的,由于有些小数以二进制表示位数是无穷的,好比 1.1,其程序实际上没法真正的表示 1.1,而只能作到必定程度上的准确(1.09999999999999999),这是没法避免的精度丢失。函数

经过 chrome 控制台,咱们能够获得一些测试数据:测试

1 - 0.9 == 0.1    //false
1 - 0.8 == 0.2    //false
1 - 0.7 == 0.3    //false
1 - 0.6 == 0.4    //true

解决方法:this

那么该如何避免这类问题呢?解决的方法有不少,比较经常使用的是将浮点数转化成整数再作运算。spa

//除法函数,用来获得精确的除法结果
//说明:javascript 的除法结果会有偏差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
//调用:accDiv(arg1,arg2)
//返回值:arg1 除以 arg2 的精确结果
function accDiv(arg1,arg2){
    var t1 = 0,t2 = 0,r1,r2;
    try{t1 = arg1.toString().split('.')[1].length}catch(e){}
    try{t2 = arg2.toString().split('.')[1].length}catch(e){}
    with(Math){
        r1 = Number(arg1.toString().replace('.',''));
        r2 = Number(arg2.toString().replace('.',''));
        return (r1 / r2) * pow(10,t2 - t1);
    }
}
//给 Number 类型增长一个 div 方法,调用起来更加方便。
Number.prototype.div = function (arg){
    return accDiv(this, arg);
};
//乘法函数,用来获得精确的乘法结果
//说明:javascript 的乘法结果会有偏差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
//调用:accMul(arg1,arg2)
//返回值:arg1 乘以 arg2 的精确结果
function accMul(arg1,arg2)
{
    var m = 0,s1 = arg1.toString(),s2 = arg2.toString();
    try{m += s1.split('.')[1].length}catch(e){}
    try{m += s2.split('.')[1].length}catch(e){}
    return Number(s1.replace('.',''))*Number(s2.replace('.','')) / Math.pow(10,m);
}
//给 Number 类型增长一个 mul 方法,调用起来更加方便。
Number.prototype.mul = function (arg){
    return accMul(arg, this);
};
//加法函数,用来获得精确的加法结果
//说明:javascript 的加法结果会有偏差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
//调用:accAdd(arg1,arg2)
//返回值:arg1 加上 arg2 的精确结果
function accAdd(arg1,arg2){
    var r1,r2,m;
    try{r1 = arg1.toString().split('.')[1].length}catch(e){r1 = 0}
    try{r2 = arg2.toString().split('.')[1].length}catch(e){r2 = 0}
    m = Math.pow(10,Math.max(r1,r2));
    return (arg1 * m + arg2 * m) / m;
}
//给 Number 类型增长一个 add 方法,调用起来更加方便。
Number.prototype.add = function (arg){
    return accAdd(arg,this);
}
//减法函数
function accSub(arg1,arg2){
    var r1,r2,m,n;
    try{r1 = arg1.toString().split('.')[1].length}catch(e){r1 = 0}
    try{r2 = arg2.toString().split('.')[1].length}catch(e){r2 = 0}
    m = Math.pow(10,Math.max(r1,r2));
    //动态控制精度长度
    n = (r1 >= r2) ? r1 : r2;
    return ((arg2 * m - arg1 * m) / m).toFixed(n);
}
///给 Number 类增长一个 sub 方法,调用起来更加方便
Number.prototype.sub = function (arg){
    return accSub(arg,this);
}

这样若是你要计算 0.7 * 0.8,只需(0.7).mul(0.8),调用 mul 方法就能够获得准确的结果了。prototype

总结:code

一、尽可能不要用 js 进行复杂的运算,特别是浮点数的运算。blog

二、若是必定要进行浮点数运算,先将浮点数转化为整型,再运算。

相关文章
相关标签/搜索