回答情况：
提问时间：
问题标签：
根据Server 2008联机丛书中小数和数字数据类型的条目，精度为：SELECT CAST(123456789 as decimal(9,1))
浏览 1提问于2010-05-21得票数 2
回答已采纳
在创建TIME数据类型时，SQL Server似乎默认使用time(7)。指出精度和小数位数的范围从(8，0)到(16，7)。现在，小时(00-23)、分钟(00-59)和秒(00-59)最多只能有两位数，因此它们的精度总和不能超过6。如果我们将毫秒(000-999)加到等式中，那么精度可以上升到9。那么像(8，0)或(16，7)这样的值对于精度(除非精度计算小时、分钟和秒之间的冒号分隔符)和小数位数意味着什么？精度不应该只有9(如果
浏览 13修改于2017-01-05得票数 1
回答已采纳
2回答
整个套接字的数据包含数字、int、float和char数组。这些浮标的精度为点后的四位数。最近，我们开始使用char数组来表示数据结构/协议中的浮点数，或者使用 int 来表示浮点数(浮点数乘以时间10000，然后在接收端除以10000 )。有人告诉我，如果直接在数据结构/协议中使用浮点数，就很难保持精度。发送方很难准确地将浮点数放入套接字中，而接收方很难接收/转换回确切的浮动号。
我不相信。再读一遍。单精度浮标似乎可以提供6-9精
浏览 1修改于2020-06-20得票数 1
1回答
x87控制字的8位和9位决定了浮点计算的精度.默认的精度是双扩展精度。在执行指令"FINIT“后，精度被设置为双浮点数。问题是，在执行"FINIT“之后，x87 FPU只使用80位数据寄存器中的64位来计算。并且FPU不能接受(输出)双扩展精度浮动值(从(到)内存).是这样的吗？
浏览 0提问于2013-12-22得票数 0
回答已采纳
考虑到关于Server 2008的状态，R2存储的数值/十进制精度。10到19的精度是9个字节。因此，如果我的业务用例逻辑上要求数据类型为2位小数，精度为5位，那么如果我将其定义为数值(5，2)或数值(9，2)，则没有实际的性能或存储差异。
浏览 3提问于2011-01-12得票数 17
回答已采纳
对于‘FIXED_LEN_BYTE_ARRAY(十进制(35，2))’字段'X‘，我一直收到“不支持的精度和比例尺值’(35，2)”的错误。最大支持的精度和比例尺是‘(38，9)。在我看来，(35,2)应该符合(38,9)的精度和规模要求。为什么我的拼花文件中的这种数据类型似乎不被Google所允许？有什么解决办法吗？
浏览 1修改于2018-08-08得票数 1
回答已采纳
1回答
我决定使用torchvision的预构建模型，更具体地说，使用自定义数据集上的mobilenet_v2 (https://pytorch.org/docs/stable/_modules/torchvision我设法获得了100%的训练和测试集的准确性(这个特定的数据集并不难，所以没有什么奇怪的)。历次: 1/15，列车损耗: 0.22990，列车<em
浏览 0提问于2020-09-14得票数 1
回答已采纳
我正在keras中训练神经网络，我达到了一个经典的极限-我的训练精度随着时代的增加而提高，但我的验证精度在9个时代之后会下降(见图)。 ? 我想知道我是否可以通过执行以下操作来避免验证精度的下降:如果时期导致验证精度的提高，则使keras net仅接受每个时期之后对权重的更改，否则重置为时期之前的状态？我假设验证在很大程度上开始偏离，因为在每个时期>9之后，神经网络的权重偏离了与验证数据的相似度。 那么，我的建议是一个好的实践吗?附带问题:我的建议是否违反了
浏览 15提问于2019-09-01得票数 0
目前，我正在研究数字识别器[0-9]。我的模型训练精度100%和测试精度90%。但当我训练自己的书面数字，它总是给我错误的预测。
我知道测试和训练图像应该来自同一个来源。但是我怎样才能提供不同的源数据呢？
浏览 0修改于2018-11-05得票数 0
回答已采纳
假设我的机器中有一个单精度浮点格式变量，我想在它上指定给定操作的结果。来自
这提供了6到9个重要的十进制数字的精度。通常，假设数据类型为上面的float32或float64，如何才能在基数10中找到精度限制？
浏览 13提问于2021-12-10得票数 0
在数据库中，我有一个字段，它是decimal(9, 6)问题是如何使用nhib映射字段。按代码映射以使用精度9,6 x=>x.Longitude);
浏览 0提问于2013-03-15得票数 4
回答已采纳
1回答
我在甲骨文中创建了表格，并尝试插入小数秒精度9作为行之一，例如。插入t值( 10:02:02.999999777'，‘yyyy dd hh24:mi:ss.FF9’2011-07-08 hh24:mi:ss.FF9‘)；插入t值(current_timestamp(9))；
08-7月-11日04.06.58.603824000下午它只提供了6级的精度。是否有任何方法使用9位精度</
浏览 1提问于2011-07-09得票数 2
回答已采纳
我通过使用下面的代码比较df_one和df_two来创建结果的数据帧。df_results = pd.DataFrame(df_one.eq(db_two)) 这很有效，但是df_one中的一列有一个精度级别为9的浮点数，另一列的精度级别为12。如果小数点后的前9个数字相等，即使最后3个数字不相等，我也希望测试返回true。 所以我最后比较了下面的两个值。-------- ------------------
42.123456789 42.123456789012 我知道
浏览 18提问于2019-05-04得票数 0
回答已采纳
我正在开发一个程序，用户输入一个双精度数，然后我将双精度数分成一个数组(然后我做一些其他的事情)。问题是，我不确定如何按数字拆分双精度数，并将其放入整型数组中。请帮帮忙？999999.99 //thats the max size of the double int[] splitD = {9,9,9,9,9,9</e
浏览 2提问于2013-03-12得票数 0
回答已采纳
在SQL Server 2008中，整数数据类型的UDT使用不同的存储机制，具体取决于精度：1-9...............520 -28.13这样做的一个结果是，基于int和bigint的UDT将占用9个字节！注意:原生int和bigint数据类型仍然分别占用4和8个字节！
对于代理键UDT来说，
浏览 0修改于2010-12-20得票数 4
回答已采纳
我想知道如何在d3d9中使用最小精度.DX11规范描述了将最小精度枚举添加到d3d9中.但是，当我用min16float关键字编写像素着色器并用fxc.exe翻译它时，它会失败，并报告"ps_3_0不支持最小精度那么如何在d3d9中使用最小精度呢？
浏览 6提问于2022-08-22得票数 0
byte b=9 ;给出编译错误(可能的精度损失)为什么b=9不给出错误，而b=b+9给出精度损失？此外，当编写为b+=6时，代码不会给出任何错误。b=b+6和b+=6有什么不同？
浏览 0修改于2014-07-16得票数 1
Sever 2000
真实的真正精度是什么，是否有可能影响精度的配置选项(即:兼容性模式)？
浏览 3修改于2010-01-13得票数 1
回答已采纳
csv文件有一个日期时间列，其秒精度为"9/1/2015 9:25:00 AM"，但如果我在excel中打开，它只有分钟精度"9/1/15 9:25“。此外，当我使用pd.read_csv()函数时，它只显示到分钟精度。有没有什么办法可以用python解决这个问题？提前谢谢你。
浏览 1提问于2015-10-16得票数 2
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号