草率解决JS浮点数运算结果不精确的问题


前言

在项目中涉及到价格计算时经常会出现JS浮点数精度问题,如 0.1+0.2 !=0.3的问题。之前使用一些大佬的库,现在发现这些库都有点大,随便一个库都是5、6百kb。在小程序中非常不适用(只有几处会涉及到计算且只会使用一些简单的计算)


一、导致原因

JavaScript 内部只有一种数字类型Number,也就是说,JavaScript 语言的底层根本没有整数,所有数字都是以IEEE-754标准格式64位浮点数形式储存,1与1.0是相同的。因为有些小数以二进制表示位数是无穷的。JavaScript会把超出53位之后的二进制舍弃,所以涉及小数的比较和运算要特别小心。


二、IEEE算术标准(IEEE 754)

IEEE二进制浮点数算术标准(IEEE 754)是20世纪80年代以来最广泛使用的浮点数运算标准,为许多CPU与浮点运算器所采用。这个标准定义了表示浮点数的格式(包括负零-0)与反常值(denormal number)),一些特殊数值(无穷(Inf)与非数值(NaN)),以及这些数值的“浮点数运算符”;它也指明了四种数值舍入规则和五种例外状况(包括例外发生的时机与处理方式)。


三、在js中的计算步骤

(1).会将十进制的数字转换成二进制的,但是由于浮点数用二进制表示是无穷的

//如:
 0.1——>0.0001 1001 1001 1001 ...(1001循环)
 0.2——>0.0011 0011 0011 0011 ...(0011循环)

(2).IEEE754标准的64位双精度浮点数的小数部分最多支持53位二进制,多余的二进制数字被截断,所以两者相加之后的二进制之和是

 0.0100110011001100110011001100110011001100110011001101

(3).将截断之后的二进制数字再转换为十进制,0.30000000000000004,所以在计算时产生了误差


四、解决方案:

(1).使用一些大佬写好的库:

(2).推荐使用bignumber.js该js压缩版仅18kb
相关示例:


// 计算传入的参数和,参数类型可以是 String,Number
// 两数之和
let x = BigNumber.sum('11', 23)
x.toNumber() // 34


// 多个参数
arr = [2, new BigNumber(14), '15.9999', 12]
let y = BigNumber.sum(...arr)
y.toString() // '43.9999'


// maximum,minimum
// 求最大值,简写 max,min
let x = [2222, 3333, '4444']
BigNumber.max(...x).toNumber() // 4444
BigNumber.min(...x).toNumber() // 2222
decimalPlaces(dp)


// 确定小数位数
let x = new BigNumber(1234.5678912345)
let y = new BigNumber(1234.56)
x.dp(2).toNumber() // 1234.56
y.dp(10).toNumber() // 1234.56


// plus
// 加法运算
0.1 + 0.2 // 0.30000000000000004
let x = new BigNumber(0.1)
x.plus(0.2).toNumber() // 0.3


// minus
// 减法运算
0.3 - 0.1 // 0.19999999999999998
let x = new BigNumber(0.3)
x.minus(0.1) // 0.2
multipliedBy(times)

// 乘法运算
0.6 * 3 // 1.7999999999999998
let x = new BigNumber(0.6)
x.times(3) // 1.8
dividedBy(div)

// 除法运算
let x = new BigNumber(300)
x.div(3).toNumber() // 100
x.div(7).dp(3).toNumber() // 42.857
dividedToIntegerBy(idiv)

// 除法运算,返回整数
let x = new BigNumber(5)
x.idiv(3).toNumber() // 1
x.idiv(0.7).toNumber() // 7
modulo(mod)

// 取余
1 % 0.9 // 0.09999999999999998
let x = new BigNumber(1)
x.mod(0.9).toNumber() // 0.1

(3).将所有小数转化为整数进行计算后再将计算结果转化为对应的小数

//问题难点 :我也不知道传来的数字会有哪些?(可以通过字符串截取小数点后的数字再通过一些方法获取到最长的那个数然后将传过来的数据乘以相应的倍数。进行数学操作之后将其除以倍数并进行返回);
//本篇主旨草率解决(上面说的操作太麻烦了,又要截取呀又要…操作)
//草率解决思路:直接将传过来的参数乘以指定倍数如:10000倍

相关代码:

// 加
 function numAdd2(...nums) {
    
    
     let sum = 0;
     nums.forEach(item => {
    
    
         sum += item;
     });
     return sum;
 }

 function numAdd(...nums) {
    
    
     let sum = 0;
     nums.forEach(item => {
    
    
         item *= Math.pow(10, 10);
         sum += parseInt(item); //parseInt主要是为了 如果小数超过了我们所乘的倍数那么就舍去一般不会超过
     });
     return sum / 1e10;
 }
 console.log('处理前:', numAdd2(199, 2.333, 3, 4.064849646, 5.08498489));
 console.log('处理后:', numAdd(199, 2.333, 3, 4.064849646, 5.08498489));

 console.log('处理前:', numAdd2(0.1, 0.2));
 console.log('处理后:', numAdd(0.1, 0.2));

效果:
在这里插入图片描述


//减:
 function numReducer2(...nums) {
    
    
     let sum = nums[0] * 2;
     nums.forEach(item => {
    
    
         sum -= item;
     });
     return sum;
 }

 function numReducer(...nums) {
    
    
     let sum = nums[0] * Math.pow(10, 10) * 2;
     nums.forEach(item => {
    
    
         item *= Math.pow(10, 10);
         sum -= parseInt(item); //parseInt主要是为了 如果小数超过了我们所乘的倍数那么就舍去一般不会超过
     });
     return sum / 1e10;
 }
 console.log('处理前:', numReducer2(199, 2.333, 3, 4.064849646, 5.08498489));
 console.log('处理后:', numReducer(199, 2.333, 3, 4.064849646, 5.08498489));

效果:
在这里插入图片描述


以此类推

猜你喜欢

转载自blog.csdn.net/z1783883121/article/details/120654073