【基础】浮点型运算结果不精确的原因

在这里插入图片描述

解析:

单精度有7~8位小数,双精度有15位小数
二进制存储,单精度只有16个二进制位,双精度有64个二进制位,将十进制浮点数转换为二进制浮点数时,有时也是不可能精确的,就如同十进制不能有有限的位数来准确表示1/3,二进制也无法准确表示1/10,因为底层数据都是用二进制来进行存储,有的数据同样不能用有限个2的整数次幂相加所表示出来,而double类型存储尾数部分最多只能存储52位,于是,计算机在存储该浮点型数据时,便出现了精度丢失。
在进行浮点类数据计算的时候,浮点参与计算,会左移或右移n位,直到小数点移动到第一个有效数字的右边,于是也可能出现精度丢失。

发布了37 篇原创文章 · 获赞 5 · 访问量 765

猜你喜欢

转载自blog.csdn.net/qq_43771096/article/details/104363901
今日推荐