浮点数判等

浮点数判等

(本文仅为笔者的个人学习笔记,如有不当之处恳请各位读者指正)

    由于计算采用的是二进制表示法,所以对一些浮点数(小数)不能准确的表示出来。例如0.1就不能被准确的表示出来,所以在计算及判等的过程中就会出现极小的误差。

    在一些计算中因为不需要很高的精度所以一般进行舍入对结果没有什么影响。而在浮点数的判断中这中不能用二进制表示的小数就不能参与判断,例如用计算机计算0.1+0.2,结果为0.30000000000000004!=0.3。

    所以在比较两个浮点数是否相等时一般取这两个数的差值的绝对值(|a-b|),再判断这个绝对值是否接近0


const double eps=1e-10;
double a=1/3*3;
double b=1;
if(abs(a-b)<eps)
    cout<<"Yes"<<endl;


public class Main {
	public static void main(String[] args) {
		System.out.println(0.2+0.1);//由于计算机采用的是二进制编码,导致一些浮点数不能被精确的用二进制表示出来
		System.out.println((0.2+0.1)==0.3);
		System.out.println((Math.abs(0.2+0.1)-0.3)<1E-10);//近似判断
	}
}
 

猜你喜欢

转载自blog.csdn.net/qq_33523482/article/details/70208218