首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >由于算术溢出,Server强制转换失败

由于算术溢出,Server强制转换失败
EN

Stack Overflow用户
提问于 2010-05-21 17:15:33
回答 2查看 5.3K关注 0票数 2

根据Server 2008联机丛书中小数和数字数据类型的条目,精度为:

p(精度)小数点左边和右边可以存储的十进制数字的最大总数。精度必须是从1到最大精度38之间的值。默认精度为18。

然而,下面的第二个选择由于“算术溢出错误将int转换为数据类型数值”而失败。

代码语言:javascript
复制
SELECT CAST(123456789 as decimal(9,0))
SELECT CAST(123456789 as decimal(9,1))
EN

回答 2

Stack Overflow用户

回答已采纳

发布于 2010-05-21 17:22:41

见此处:http://msdn.microsoft.com/en-us/library/aa258832(SQL.80).aspx

十进制[(p,s)]

p (精度)指定可以存储在小数点左侧和右侧的最大十进制数字总数。精度必须是从1到最大精度之间的值。最大精度为38。默认精度为18。

s (scale)指定可存储在小数点右侧的最大小数位数。标度必须是从0到p的值。只有在指定精度的情况下才能指定刻度。默认刻度为0;因此,0 <=的<= p.最大存储大小因精度而异。

在使用:decimal(p,s)时,可以将p看作要存储的总数字(不管小数点的左或右),而s则是小数点右侧的p数字。

代码语言:javascript
复制
DECIMAL(10,5)=     12345.12345
DECIMAL(10,2)=  12345678.12
DECIMAL(10,10)=         .1234567891
DECIMAL(11,10)=        1.1234567891

您的示例代码失败:

代码语言:javascript
复制
SELECT CAST(123456789 as decimal(9,1))

因为:

9=precision (十进制左、右数字总数)

1=scale (小数点右边的数字总数)

(9-1)=8 (小数点左边的总数字)

您的值123456789需要小数点左边的9位数字。你需要decimal(10,1)或者decimal(9,0)

票数 9
EN

Stack Overflow用户

发布于 2010-05-21 17:17:16

对,是这样。因为您正在执行decimal(9,1),这意味着您有9个总数字,但是,1将其中一个数字保留在小数位的右边,所以您最多可以在左边8位,右侧1位。

票数 4
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/2884091

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档