因为存在计算精度的问题,例如 0.1+0.2 = 0.30000000000000004
,因此须要整理如下方法,方便进行简单计算。javascript
主要思路是先转成整数,而后再进行计算,计算完再转回浮点数java
获取小数位以及向右移动小数位,是计算时转换成整数的工具函数。加减乘除四个函数都用到了
// 获取小数位 export function getDecimalPlace(num) { try { let result = num.toString().split('.')[1].length; return result; } catch (e) { return 0; } }
/** * 向右移动小数点 * @param movePlace 移动步数,正向右,负数向左 */ export function moveDecimalPlace(num, movePlace) { let decimalPlace = getDecimalPlace(num); let step = movePlace - decimalPlace; // 先转成整数类型,再肯定须要如何移动,为了处理 268.34*100 却等于 26833.999999999996 的问题 let intNum = Number(num.toString().replace('.', '')); if (step > 0) { return intNum * Math.pow(10, step); } else if (step < 0) { return intNum / Math.pow(10, -step); } else { return intNum; } }
这里右移动小数点须要先转成整形,再进一步处理是由于存在一些浮点数乘以 10 的倍数也会出问题!
例如:268.34*100 => 26833.999999999996
/** * 相加 arg1 + arg2 */ export function add(arg1, arg2) { let step1 = getDecimalPlace(arg1); let step2 = getDecimalPlace(arg2); let maxStep = Math.max(step1, step2); arg1 = moveDecimalPlace(arg1, maxStep); arg2 = moveDecimalPlace(arg2, maxStep); return (arg1 + arg2) / Math.pow(10, maxStep); }
/** * 相减 arg1 - arg2 */ export function sub(arg1, arg2) { return add(arg1, -arg2); }
/** * 乘法 arg1 * arg2 */ export function multiply(arg1, arg2) { let step1 = getDecimalPlace(arg1); let step2 = getDecimalPlace(arg2); let maxStep = Math.max(step1, step2); arg1 = moveDecimalPlace(arg1, maxStep); arg2 = moveDecimalPlace(arg2, maxStep); if (maxStep > 0) { let stepPow = Math.pow(10, maxStep); return (arg1 * arg2) / (stepPow * stepPow); } return arg1 * arg2; }
/** * 除法 arg1 / arg2 */ export function division(arg1, arg2) { let step1 = getDecimalPlace(arg1); let step2 = getDecimalPlace(arg2); let maxStep = Math.max(step1, step2); arg1 = moveDecimalPlace(arg1, maxStep); arg2 = moveDecimalPlace(arg2, maxStep); return arg1 / arg2; }
源码连接git
更多代码片断github
我的博客连接函数