golang中的浮点数运算-精度运算

golang中的浮点数运算-精度运算

浮点数的存储都不是精确的,比如0.1可能会存储为0.10000000001或者0.999999999998,所以浮点数一般是没法直接比较的,比如:

var v1 = 0.1
var v2 = 0.2
var v3 = 0.3
fmt.Println(v1 + v2 == v3) // false

在比如:

var v = 67.6  
fmt.Println(int64(v * 100)) // 输出结果为:6759

但是我们在实际业务中又不得不和浮点数打交道,因此基本上每个编程语言都有其对应的高精度库。说白了,就是在一定的精度规则下,将浮点数转换成整型来运算,比如,设定精确到小数点后两位。

golang中的高精度计算包 github.com/shopspring/decimal

于是上面的例子可以修改为:

v1 := decimal.NewFromFloat(0.1)
v2 := decimal.NewFromFloat(0.2)
v3 := decimal.NewFromFloat(0.3)
fmt.Println(v1.Add(v2).Equal(v3)) // true

f1 := decimal.NewFromFloat(67.6)
f2 := decimal.NewFromFloat(100)
fmt.Println(f1.Mul(f2).IntPart()) // 6760

猜你喜欢

转载自blog.csdn.net/raoxiaoya/article/details/122688014