慎用float

Float在计算机中的存储很特殊,在存储中有误差。实际使用时要特别注意存储精度。
当一个很大值和一个很小值进行计算,结果会不是预期的值。
比如:float sum1=0x1000000; sum1+=1.0; 这时候你会发现sum1还是0x1000000.
当计算结果的值大于0xffffff,float的误差就会出现。这不是BUG!
解决办法是把变量定义为double。

发布了17 篇原创文章 · 获赞 2 · 访问量 1985

猜你喜欢

转载自blog.csdn.net/qq_23313467/article/details/85011809