C/C++ pow()函数结果强制类型转换为整型的误差分析

版权声明:个人学习笔记记录 https://blog.csdn.net/Ratina/article/details/86538025

在计算102时调用pow(10 , 2),再强制类型转换为int类型后输出:

	printf("%d",(int)pow(10,2));

得到的结果却是:99

这是因为 double pow(double x, double y) ,返回值是采用数值逼近的方法得到的double类型值。例如返回值为99.9999999时,强制类型转换发生截断,得到99。

解决方法①:自行编写 pow() 函数,以整型作为形参与返回值。

解决方法②:运用四舍五入函数:

	printf("%d",(int)round(pow(10,2)));

因为pow()函数得到的结果本身已经十分接近,四舍五入后通常可以得到精确值。

猜你喜欢

转载自blog.csdn.net/Ratina/article/details/86538025