js 处理小数的运算

首先要说明的是,不能正确处理小数的运算并不是 JavaScript
语言本身的设计错误,其它高级编程语言,如C,Java等,也是不能正确处理小数运算的。

//我们用计算器计算 21*0.9 = 18.9;
//在控制台计算  21*0.9 = 18.900000000000002;
/*我们都知道,用高级编程语言编写的程序需要经过解释、编译等操作转变成 CPU(Central Processing Unit) 
 可以识别的机器语言才能运行,而对 CPU 来说,它不识别数的十进制、八进制和十六进制等,我们在程序中声明
 的这些进制数都会被转成二进制数进行运算。
*/
console.log(21*0.9);   //18.900000000000002
//例如保留三位小数向上取整
var item = Math.ceil(21*0.9*1000)/1000;
console.log(item);  // 18.901
//解决方法:
var item1 = Math.ceil((21*10)*(0.9*10)/100*1000)/1000;
console.log(item1);  // 18.9

说明:

计算内部使用二进制来计算,如果不想出现 21*0.9 = 18.900000000000002 这样的情况,我们需要在前端进行转换。
所以,解决方法就是进行转换 例如:(21*10)*(0.9*10)/100 = 18.9

这是我在控制台打印出来的:
这里写图片描述

猜你喜欢

转载自blog.csdn.net/sx_lidan/article/details/79289907