关于float浮点数的误差分析

浮点型简单讲就是实数的意思。浮点数在计算机中用以近似表示任意某个实数。具体的说,这个实数由一个整数或定点数(即尾数)乘以某个基数(计算机中通常是2)的整数次幂得到;但用浮点数真的可以准确表示实数吗?让我们来研究研究吧。

如下图代码所示,理论上我们输出的数字应该是4000,但结果确是4001.552979,这就说明float浮点数是存在误差的


那么这些误差值是为何而来呢

其实那是因为精度越来越高,占字节数越多,在计算机中,越是精度高,需要占的内存越大,而在解决实际问题中成本也就越大,因此不得不结合考虑精度与成本的问题,所以便存在误差值。我们没有办法彻底消除这些误差值,但我们可以通过一些方法是这些误差值变小从而不影响我们的使用。

我们可以通过宏定义的方式来减小误差,如下图所示


这样一来我们便使误差减小到了0.000001,这个误差就不会我们正常使用浮点数。

 

猜你喜欢

转载自blog.csdn.net/Rocketcp3/article/details/80555699