数学概念模糊,各位指点一下

子木007 发布于 2013/04/24 10:22
阅读 222
收藏 0
If DataType=float, Length=N and SignificantDigits=S is a requirement that the receiving system be able to process and store all numeric values of magnitude less than 10^(N-S) that are multiples of 10^(-S). Larger values may be rejected. Intermediate values may be rounded to the nearest multiple of 10^(-S).

按照上面的描述,length,  significantdigits 分别指的是什么?  significantdigits 有效数字? length 是精度?


加载中
0
duty
duty
应该是数字的长度和精度(小数位数)吧
duty
duty
回复 @坑主 : 最大值是10的n-s次方吧应该
子木007
子木007
10^(N-S) 怎么理解?
0
戴威
戴威

参考数据库概念

number(precision, scale)

返回顶部
顶部