javascript如何解决浮点数相乘出现误差问题

javascript如何解决浮点数相乘出现误差问题:
在js中进行浮点数算数运算的时候可能会出现误差,例如两个浮点数相乘就有可能出现误差,代码如下:

var a=11;
var b=22.9;
console.log(a*b);

 以上代码的输出值不是251.9,而是存在一定误差,代码修改如下:

var a=11;
var b=22.9;
console.log(a*(b*10)/10);

 以上代码就可以实现精确运算了,实现原理很简单,就是将浮点数转换为整数,运行结束之后,再除以扩大的倍数就可以了。

更多相关内容可以参阅javascript浮点数精确计算代码一章节。 

原文地址是:http://www.softwhy.com/forum.php?mod=viewthread&tid=11559

更多内容可以参阅:http://www.softwhy.com/javascript/

猜你喜欢

转载自softwhy.iteye.com/blog/2275042