var 0.2+0.1!=0.3

0.2 + 0.1 = 0.30000000000000004

二进制转十进制: 0101

  位数:4<--1--0--负1---<

1x2的位数次方=1x1

0x2的位数次方=0x2

1x2的位数次方=1x4

0x2的位数次方=0x8

十进制:5

======================

二进制        十进制

0.00000====0

0.00001====0.0625

0.00002====0.125

0.00003====0.1857

也就是十进制0.1二进制表示有误差。。。。

猜你喜欢

转载自www.cnblogs.com/yancongyang/p/9090266.html