根据Server 2008联机丛书中小数和数字数据类型的条目,精度为:
p(精度)小数点左边和右边可以存储的十进制数字的最大总数。精度必须是从1到最大精度38之间的值。默认精度为18。
然而,下面的第二个选择由于“算术溢出错误将int转换为数据类型数值”而失败。
SELECT CAST(123456789 as decimal(9,0))
SELECT CAST(123456789 as decimal(9,1))发布于 2010-05-21 17:22:41
见此处:http://msdn.microsoft.com/en-us/library/aa258832(SQL.80).aspx
十进制[(p,s)]
p (精度)指定可以存储在小数点左侧和右侧的最大十进制数字总数。精度必须是从1到最大精度之间的值。最大精度为38。默认精度为18。
s (scale)指定可存储在小数点右侧的最大小数位数。标度必须是从0到p的值。只有在指定精度的情况下才能指定刻度。默认刻度为0;因此,0 <=的<= p.最大存储大小因精度而异。
在使用:decimal(p,s)时,可以将p看作要存储的总数字(不管小数点的左或右),而s则是小数点右侧的p数字。
DECIMAL(10,5)= 12345.12345
DECIMAL(10,2)= 12345678.12
DECIMAL(10,10)= .1234567891
DECIMAL(11,10)= 1.1234567891您的示例代码失败:
SELECT CAST(123456789 as decimal(9,1))因为:
9=precision (十进制左、右数字总数)
1=scale (小数点右边的数字总数)
(9-1)=8 (小数点左边的总数字)
您的值123456789需要小数点左边的9位数字。你需要decimal(10,1)或者decimal(9,0)
发布于 2010-05-21 17:17:16
对,是这样。因为您正在执行decimal(9,1),这意味着您有9个总数字,但是,1将其中一个数字保留在小数位的右边,所以您最多可以在左边8位,右侧1位。
https://stackoverflow.com/questions/2884091
复制相似问题