js浮点数精度丢失问题及如何解决js中浮点数计算不精准

js中进行数字计算时候,会出现精度偏差的问题。先来看一个实例:html

 

console.log(0.1+0.2===0.3);//false编程

console.log(0.1+0.1===0.2);//true编程语言

上面第一个的输出会超出咱们的常识,正常应该为true,这里为何会是false呢,直接运行会发现0.1+0.2在js中计算的结果是:函数

 

console.log(0.1+0.2);//输出0.30000000000000004this

这对于浮点数的四则运算(加减乘除),几乎全部的编程语言都会出现上面相似的精度偏差问题,只是大部分语言都处理封装了避免偏差的方法。对于js而言,因为它是一门弱类型的语言,因此并无对浮点数的运算有解决的封装方法,这能咱们本身来解决。这里为何会出现这个精度偏差呢?prototype

 

浮点数产生的缘由  htm

咱们首先就想到计算机能读懂的是二进制,因此咱们进行运算的时候,其实是把数字转换为了二进制进行的,因此咱们把0.1和0.2转换为二进制:blog

 

0.1 => 0.0001 1001 1001 1001..(无限循环)it

0.2 => 0.0011 0011 0011 0011…(无限循环)io

这里能够看出转换为二进制是一个无限循环的数字,单在计算机中对于无限循环的数字会进行舍入处理的,进行双精度浮点数的小数部分最多支持52位。而后把两个2进制的数进行运算得出的也是一个二进制数值,最后再把它转换为十进制。保留17位小数,因此0.1+0.2的值就成了 0.30000000000000004。  0.1+0.1的值成了0.20000000000000000,全是0的时候能够省略,就成了0.2

 

解决浮点数精度偏差的办法

最简单的处理,经过toFixed方法,

console.log(parseFloat(0.1+0.2).toFixed(1));//输出0.3

说明:经过toFixed(num)方法来保留小数,其中num为保留小数的位数,这个方法是根据四舍五入来保留小数的,因此计算的结果并非最精确的。因此咱们须要采用其它方法来实现,经过Number.prototype的属性进行添加,以下:

 

js加法:

//加法函数

function accAdd(arg1, arg2) {

       var r1, r2, m;

       try {

              r1 = arg1.toString().split(".")[1].length;

       } catch(e) {

              r1 = 0;

       }

       try {

              r2 = arg2.toString().split(".")[1].length;

       }catch(e){

              r2 = 0;

       }

       m = Math.pow(10, Math.max(r1, r2));

       return(arg1 * m + arg2 * m) / m;

} //给Number类型增长一个add方法,使用时直接用 .add 便可完成计算。  

Number.prototype.add = function(arg){     

       return accAdd(arg, this); 

};

console.log(0.1.add(0.2).add(0.3));//等价于0.1+0.2+0.3,输出0.6

console.log(0.1+0.2+0.3);//输出0.6000000000000001

 

js减法:

//减法函数 

function Subtr(arg1, arg2) {

       var r1, r2, m, n;

       try {

              r1 = arg1.toString().split(".")[1].length;

       } catch(e) {

              r1 = 0;

       }

       try {

              r2 = arg2.toString().split(".")[1].length;

       } catch(e) {

              r2 = 0;

       }

       m = Math.pow(10, Math.max(r1, r2)); //动态控制精度长度            

       n = (r1 >= r2) ? r1 : r2;

       return parseFloat(((arg1 * m - arg2 * m) / m).toFixed(n));

}

Number.prototype.sub = function(arg) {

       return Subtr(this, arg);

};

console.log(0.6.sub(0.2).sub(0.3));//等价于0.6-0.2-0.3 输出0.1

console.log(0.6-0.2-0.3);//输出:0.09999999999999998

 

js乘法:

//乘法函数

function accMul(arg1, arg2) {

       var m = 0,

              s1 = arg1.toString(),

              s2 = arg2.toString();

       try {

              m += s1.split(".")[1].length;

       } catch(e) {}

       try {

              m += s2.split(".")[1].length;

       } catch(e) {}

       return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);

}

Number.prototype.mul = function (arg) {     

       return accMul(arg, this); 

};

console.log(0.1.mul(0.2).mul(0.3)); //等价于0.1 * 0.2 * 0.3 输出0.006

console.log(0.1 * 0.2 * 0.3); //输出:0.006000000000000001

 

js除法:

//除法函数

function accDiv(arg1, arg2) {

       var t1 = 0,

              t2 = 0,

              r1, r2;

       try {

              t1 = arg1.toString().split(".")[1].length;

       } catch(e) {}

       try {

              t2 = arg2.toString().split(".")[1].length;

       } catch(e) {}

       with(Math) {

              r1 = Number(arg1.toString().replace(".", ""));

              r2 = Number(arg2.toString().replace(".", ""));

              return(r1 / r2) * pow(10, t2 - t1);

       }

}

Number.prototype.div = function (arg) {     

       return accDiv(this, arg); 

};

console.log(0.6.div(0.2).div(0.1)); //等价于0.6 / 0.2 / 0.1 输出30

console.log(0.6 / 0.2 / 0.1); //输出:29.999999999999993

 

原文出处:https://www.cnblogs.com/ranyonsue/p/11378200.html

相关文章
相关标签/搜索