关于python浮点数精度问题

在学习python的过程中,使用浮点数会出现精度的问题,比如

i=0
j=0.0
while(i<10{
	j+=0.1
}

加到0.5后再加值一直为0.5999999999999,此时就出现了浮点数精度的问题了,怎么解决呢。使用decimal库,首先安装Pydecimal库
file->settings
在这里插入图片描述
在这里插入图片描述
然后导入

from decimal import *

然后按照下面的方式计算就不存在精度问题了

Decimal(0.00)+Decimal("0.01"))
原创文章 81 获赞 48 访问量 3万+

猜你喜欢

转载自blog.csdn.net/qq_15181569/article/details/102555065