关于float计算结果不精确问题

参考文章:Java Float类型 减法运算时精度丢失问题

今天参加面试,面试官问到一个问题,两个float相除怎么证明是否整除,我提出了几个方法,他提示我精度有可能会丢失,然后我就懵逼了,回来搜索了一下发现float和double都是用来科学计算的

float和double的底层实现是二进制的。十进制中的一个有限位数小数,转换成二进制就不一定是有限位数了,一旦位数超过的float和double型的位数宽度,就会出现“精度溢出”

然后提出相对其进行精确计算,需要先进行转换成为BigDecimal对象再进行计算。

add()加法运算
subtract() 减法运算
multiply() 乘法运算
divide() 除法运算
面试虽然炸了,但是学到了以前不知道的东西,算是有所收获吧 大哭

猜你喜欢

转载自blog.csdn.net/tian2342/article/details/52614339