js面试0.1+0.2!==0.3原因以及解决方法

问题原因

因为js底层都是按照二进制来存储数据的,十进制的小数转化为二进制如下图
在这里插入图片描述

它的计算过程如下:给该小数乘以2,然后取整,然后获取小数继续乘以2取整,以此循环在这里插入图片描述所以十进制的小数转换为二进制会出现无限循环,对于无限循环的情况,会自动截掉多余的部分,只存储64位,所以,十进制的小数,在计算机底层存储的时候,就已经“失真”了

0.1+0.2在进行运算的时候,是按照二进制来计算的,把计算的结果变成10进制,交给客户端呈现。
而浏览器呈现的数值是有长度限制的,超过长度限制的也会被截取掉,截取后的数值从小数最后一位向前数,如果后面全是0,则不保留,如果遇到不是0的,就会保留。
在这里插入图片描述

怎么解决精度问题?

  • 将数字转成整数「扩大系数」
    console.log((0.1 * 10 + 0.2 * 10) / 10); //扩大系数,变为整数进行运算
    
  • 三方库:Math.js 、decimal.js、big.js …

补充

JS使用Number类型表示数字(整数和浮点数),遵循 IEEE-754 标准 通过64位二进制值来表示一个数字
https://babbage.cs.qc.cuny.edu/IEEE-754.old/Decimal.html
第0位:符号位,0表示正数,1表示负数 S
第1位到第11位「11位指数」:储存指数部分 E
第12位到第63位「52位尾数」:储存小数部分(即有效数字)F
注:尾数部分在规约形式下第一位默认为1(省略不写)

猜你喜欢

转载自blog.csdn.net/weixin_44157964/article/details/119065239