计算机进行小数运算时出错的原因和避免方法

计算机进行小数运算时出错的原因:

 是因为有一些十进制的小数无法转换成二进制数。

如何地避免小数运算错误:

1.回避策略,即无视这些错误。根据程序目的不同,有时一些微笑的偏差并不会造成什么问题

2.就是把小数转换成整数来计算。计算机计算小数时可能会出错,但进行整数计算时一定不会出现问题。因此我们可以将小数暂时转换成整数在输出的时候再以小数的形式来输出

猜你喜欢

转载自www.cnblogs.com/hyy123-/p/10664879.html