Oracle中的NUMBER、FLOAT

Number类型:

Oracle number datatype 语法:NUMBER[(precision [, scale])]
有效位:从左边第一个不为0的数算起的位数。

scale > 0
   精确到小数点右边s位,并四舍五入。然后检验有效位是否 <= p。
scale < 0
   精确到小数点左边s位,并四舍五入。然后检验有效位是否 <= p + |s|。
scale = 0
   NUMBER表示整数。

Float类型:
Oracle float datatype 语法:FLOAT(b)
Oracle Online Help 说:FLOAT(b) specifies a floating-point number with binary precision b. The precision
b can range from 1 to 126. To convert from binary to decimal precision, multiply b by 0.30103。根据这段话,
我们可以看到,float(2)中的2是一个binary precision,而不是我们常用的decimal precision。他们之间的换算关
系是:binary precision=int(b*0.30103),因此我们这里实际上的精度应该等于int(2*0.30103)=0,即小数点后精度为0。

例如:
float(7):此时精度为int(7*0.30103)=2,
那么插入2111.111(2.111111*10^3)到Oracle数据库表中,值会被转变为2.11*10^3=2110
那么插入234567.891(2.34567891*10^5)到Oracle数据库表中,值会被转变为2.35*10^5=235000

猜你喜欢

转载自blog.csdn.net/feelwing1314/article/details/8783121