js精度缺失原因及解决方法

js精度缺失原因

最常见的问题就是两个简单的浮点数进行相加不等于我们的计算结果:

0.1 + 0.2 !== 0.3 // true

这是因为计算机是采用二进制而不是十进制,所以当十进制的数字转化成二进制则变成了无限不循环的数,但是计算机可支持最大尾数位是52位,所以在模仿十进制的四舍五入后就造成了数据的精度缺失,导致计算错误。

解决方法

  • toFixed(),但是返回的结果是字符串形式,需要进行数字类型转化,并且进行四舍五入也并不是很精确,在涉及计算金额等十分严谨的情况时并不是很适用。
(0.1 + 0.2).toFixed(1);
  • 扩大倍数
    对于整数,前端出现问题的几率比较低,但是对于小数,前端出现问题的几率就相对来说要高一些,所以可以通过把小数位扩大放到整数位进行操作,操作完后再复原到原始大小。
((0.1 * 10) + (0.2 * 10)) / 10 === 0.3

猜你喜欢

转载自blog.csdn.net/qq_45488467/article/details/128849401