- 综合排序
- 最热优先
- 最新优先
- 来自专栏Fish
双精度，单精度和半精度
浮点数是计算机上最常用的数据类型之一，有些语言甚至数值只有浮点型（Perl，Lua同学别跑，说的就是你）。 常用的浮点数有双精度和单精度。除此之外，还有一种叫半精度的东东。 双精度64位，单精度32位，半精度自然是16位了。 半精度是英伟达在2002年搞出来的，双精度和单精度是为了计算，而半精度更多是为了降低数据传输和存储成本。 很多场景对于精度要求也没那么高，例如分布式深度学习里面，如果用半精度的话，比起单精度来可以节省一半传输成本。考虑到深度学习的模型可能会有几亿个参数，使用半精度传输还是非常有价值的。 比较下几种浮点数的layout: 双精度浮点数： ? 单精度浮点数： ? 半精度浮点数： ? 它们都分成3部分，符号位，指数和尾数。 不同精度只不过是指数位和尾数位的长度不一样。
6.9K50发布于 2019-05-27 - 来自专栏3D视觉从入门到精通
CenterFusion：融合雷达与摄像头数据的高精度3D目标检测
（redar）替换自动驾驶中的激光雷达，并达到高精度3D目标检测的方法。 3D目标检测在自动驾驶领域应用广泛，而激光雷达（Lidar）和摄像头数据的融合常用来进行高精度的3D目标检测，但其仍有一些缺点。 但雷达数据更加稀疏，不能直接将激光雷达的方法直接套用，数据在输入层和后处理部分的融合不能取得很好的效果。 该文将摄像头采集的图像数据和雷达数据进行中间特征层的融合，以达到精确的3D目标检测。 然后作者将雷达检测到的目标数据和上面检测到的目标中心点进行关联，作者了视锥的方法 3. 可见该文的融合方法取得了显著的精度提升，相比以前的SOTA精度提升12%。 nuScenes 数据集上进行 3D 目标检测的每类性能比较： ? 检测结果示例： ? ?
1.5K21发布于 2020-11-19 - 来自专栏联远智维
高精度数据采集板（一）
前几天学习了嘉立创开源的《NBIoT定位器》项目，对移远通信模块进行了调试，并将结果上传到ONENET云平台；然而实际应用场景中不仅需要定位模块，还经常涉及到信号采集任务，因此近来设计了一款高精度数据采集版 ，通过STM32L431 + BC20 + AD7190模块采集传感器数据输出数据并上传到云平台，具体结果如下所示：图片硬件结构 数据采集版硬件结构主要包含：主控模块、AD7190模数转化模块 物联网通信模块以及电源管理模块等，部分硬件电路图如图2所示：图片结果展示 后续对电路板的性能进行了测试，过程中把AD7190的信号线进行短接，模块具体的采样结果为-0.0013499mV，具体如图3所示
1.1K40编辑于 2022-09-01 - 来自专栏全栈程序员必看
oracle number数据类型的精度
p: 1—38 s: -84—127 a、s > 0 (精确到小数点右边 s 位，并四舍五入 。然后检验有效数位是否 <= p) 例如：number(5,2) 有效数字最多是5位，保留小数点后2位； 123.45 — 123.45 123 — 123.00 1.2356 — 1.24 0.001 — 0.00 b、s < 0 (精确到小数点左边 s 位，并四舍五入 。然后检验有效数位是否 <= p + |s|) 例如：number(5,-2) 小数点左边最后2位四舍五入，最多7位有效数字 123456 — 123460 1234567.6789 — 1234600 1 — 0 总结：在 p < s 这种情况下 只能用来存放大于0小于1的小数。 在 p > s 这种情况下 小数点前最多只能插入：p – s个数字，但小数点后的数字可以是任意长度（保存时会四舍五入）
1.7K20编辑于 2022-09-15 - 来自专栏csxiaoyao
HDU 1002 高精度 大数据加法
一条很简单的大数据加法题，题意简单明了 题目： A + B Problem II Time Limit: 2000/1000 MS (Java/Others) Memory Limit Sample Input 2 1 2 112233445566778899 998877665544332211 Sample Output Case 1: 1 + 2 = 3 Case 2:
63720发布于 2019-02-18 - 来自专栏GiantPandaCV
3*3卷积+1*3卷积+3*1卷积=白给的精度提升
由于前端设备通常受限于计算资源，就要求网络在保证精度的条件下要尽可能轻量。 Jin等人应用结构约束使二维卷积可分离，在获得相当精度的条件下时间加速了2倍。另一方面，非堆成卷积也被广泛的用来做网络结构设计，例如Inception-v3中，7*7卷积被1*7卷积和7*1卷积代替。 如4.1和4.2节中所示，我们可以训练ACNet达到更高的精度。 实验 4.1节和4.2节，论文在CIFAR10和CIFAR100数据集，ImageNet数据集进行对比测试，结果如Table1,Table2,Table3所示： 4.3节还展示了消融研究，也就是对AlexNet 在CIFAR和ImageNet数据集上，通过在经典网络上使用ACNet评估我们的性能，取得了SOTA结果。
1.3K30发布于 2019-12-09 - 来自专栏AI算法与图像处理
3*3卷积+1*3卷积+3*1卷积=白给的精度提升
由于前端设备通常受限于计算资源，就要求网络在保证精度的条件下要尽可能轻量。 Jin等人应用结构约束使二维卷积可分离，在获得相当精度的条件下时间加速了2倍。另一方面，非堆成卷积也被广泛的用来做网络结构设计，例如Inception-v3中，7*7卷积被1*7卷积和7*1卷积代替。 如4.1和4.2节中所示，我们可以训练ACNet达到更高的精度。 实验 4.1节和4.2节，论文在CIFAR10和CIFAR100数据集，ImageNet数据集进行对比测试，结果如Table1,Table2,Table3所示： ? ? 在CIFAR和ImageNet数据集上，通过在经典网络上使用ACNet评估我们的性能，取得了SOTA结果。
1.7K30发布于 2019-12-09 - 来自专栏AI科技评论
3*3卷积+1*3卷积+3*1卷积=白给的精度提升
由于前端设备通常受限于计算资源，就要求网络在保证精度的条件下要尽可能轻量。 Jin等人应用结构约束使二维卷积可分离，在获得相当精度的条件下时间加速了2倍。另一方面，非堆成卷积也被广泛的用来做网络结构设计，例如Inception-v3中，7*7卷积被1*7卷积和7*1卷积代替。 如4.1和4.2节中所示，我们可以训练ACNet达到更高的精度。 实验 4.1节和4.2节，论文在CIFAR10和CIFAR100数据集，ImageNet数据集进行对比测试，结果如Table1,Table2,Table3所示： 4.3节还展示了消融研究，也就是对AlexNet 在CIFAR和ImageNet数据集上，通过在经典网络上使用ACNet评估我们的性能，取得了SOTA结果。
1.5K30发布于 2019-11-28 JavaScript——数字超过精度导致数据有误
前言 接口返回的number类型的数据，超过了JavaScript中Number类型的限制，浏览器自动进行了转换； console.log(7232167009634730040) 内容 以下内容来自 大于这个值的整数在 JavaScript 中会失去精度或变为 Infinity。 > 9007199254740991 // 最大安全整数 9007199254740991 > 9007199254740992 9007199254740992 // 超出范围,已经失去精度 这可以保证数字的精度。 API 直接返回字符串,如 "7232167009634730040"。前端检查是否可以转为 Number,如果不能则使用字符串处理。 这样也可以避免精度丢失的问题。 API 返回支持大数的类型,如 String、Decimal 等。然后前端引入对应库处理。 在前后端共同配合下,返回和解析合适格式的数值。
48510编辑于 2024-08-15- 来自专栏架构精进之路
不可忽视的PHP数据精度损失问题
不知大家在开发过程中有没有常常会遇到数据精度问题呢，类似下面这样的： <?php $a = 0.57; echo intval(floatval($a) * 100); 预期输出结果57，实则56。 首先我们要知道浮点数的表示(IEEE 754)： 浮点数, 以64位的长度(双精度)为例，会采用1位符号位(E)，11指数位(Q)，52位尾数(M)表示(一共64位) 符号位：最高位表示数据的正负，0表示正数 ，1表示负数； 指数位：表示数据以2为底的幂，指数采用偏移码表示； 尾数：表示数据小数点后的有效数字。 （暂且当作 0 舍 1 入） 双精度浮点数能表示多少精度呢？ 对于高精度数据操作，建议使用以下函数： bcadd — 将两个高精度数字相加 bccomp — 比较两个高精度数字，返回-1, 0, 1 bcdiv — 将两个高精度数字相除 bcmod — 求高精度数字余数
1.2K10发布于 2021-02-05 - 来自专栏用户5637037的专栏
图插值激活提高数据高效深度学习的自然精度和鲁棒精度
Both Natural and Robust Accuracies in Data-Efficient Deep Learning 摘要：提高深度神经网络(DNNs)的准确性和鲁棒性，并使其适应较小的训练数据 本文用一个基于拉普拉斯图的高维插值函数代替DNNS的输出激活函数(典型的数据无关的Softmax函数)，该函数在连续极限下收敛于高维流形上的Laplace-Beltrami方程的解。 与传统的以Softmax函数作为输出激活的DNN相比，该框架具有以下主要优点：第一，它更适用于不使用大量训练数据而训练高容量DNN的数据高效学习。
82110发布于 2019-07-17 - 来自专栏算法学习日常
高精度加法和高精度减法
1.引入： 高精度算法：是可以处理较大数据的算法，这里所说的较大数据指的是已经爆了long long范围的，而此算法是模拟正常加减法计算操作的算法。 > using namespace std; typedef long long ll; int main() { //因为加法都是从后往前加，但是数据输入时却是从前往后输入，因此先把他当作字符串输入 无法通过 for (int i = 0; i < len; i++) { printf("%d", c[len - 1 - i]); } printf("\n"); return 0; } 3. 高精度减法 （题目链接：P2142 高精度减法 - 洛谷 | 计算机科学教育新生态 (luogu.com.cn)） 与加法相似，但是要多调换字符串这一步骤 #include <iostream> #include 注意或者后面的情况，若只有或者前面部分的，若是3-4这种情况，则无法算出正确答案*/ //str1<str2:前者的数字小于后面的数，虽然这是字符串，但仍然可以这样比较 flag = 1;
42210编辑于 2024-03-25 - 来自专栏LET
精度，Precision
上一节我们讲了球心坐标和本地坐标之间的转换，这里也有一个精度的问题。 但在Virtual Earth中，如果我们近地面浏览，RTC-rendering还是会出现浏览范围超过float精度的情况，就会出现精度的丢失，也就是相机抖动。 不管怎样，你能看到的，要么范围大，精度低，要么范围小，精度高。 同时，因为shader中仅支持float类型，这里，Cesium提供了一种编码方式，用float-float模拟一个double，来确保精度问题，对应EncodedCartesian3.encode方法 本文主要介绍了我对精度的理解，float精度为何会有损失，以及RTC和RTE解决相机抖动的思路，因为孩子发烧，无能为力，夜不能寐，索性写写文章，聊以自慰，因而写的过程比较压抑。
1.6K70发布于 2018-06-20 - 来自专栏Shimmer3
Shimmer3：高精度可穿戴生理传感平台技术解析
其高度模块化的设计、高精度的数据采集能力以及强大的无线传输性能，使其成为科研人员和开发者进行实时生理数据采集与分析的重要工具。 辅助模块 存储卡（microSD）用于本地数据记录 蓝牙/USB模块支持无线或有线数据通信 可充电锂电池，便于长时间使用 三、技术特点特性说明多通道同步采集同时采集多个传感器信号，避免信号错位高采样率支持最高 满足高动态信号分析需求开源SDK支持提供 Android、LabVIEW、MATLAB、C#等平台SDK小型化设计便于贴身穿戴或集成到衣物、腕带中低功耗优化电源管理，适合长时间连续采集任务四、Shimmer3数据结构与接口示例 Shimmer3 提供 BLE 或串口通信协议，通过特定命令控制设备启动、配置传感器采样参数、采集数据。 六、总结Shimmer3 凭借其灵活的传感器配置、高精度采样能力和丰富的应用接口，已在学术研究、医疗健康、智能穿戴等领域被广泛采用。
64710编辑于 2025-06-18 - 来自专栏全栈程序员必看
numpy.astype数据精度导致数据变化的问题「建议收藏」
在用numpy.astype强制转换数据类型的时候，由于numpy精度的问题将会对长度超过16位的数据发生不可预见的变化。 见以下样例： a=np.random.randint(10000000000000000,100000000000000000,6,dtype=np.int64).reshape(3,-1) a Out 98092567621991296, 29336557186973848], [27275086880071664, 17713014931142608]], dtype=int64) 可以发现，所有数据前 16位都是相同的，16位以后就不可控了，导致错误发生的原因，就是numpy的32位精度问题导致的。 我尝试了DataFrame的object类型可以解决，解决方式如下： 将numpy转换为DataFrame的时候，指定数据类型为object。 生成之后，在利用astype将其转换为int64即可。
73010编辑于 2022-08-15 - 来自专栏图像处理与模式识别研究所
含有带有很少误差条的数据全精度数据图。
more OO interface to exercise more features. fig, (ax_l, ax_c, ax_r) = plt.subplots(nrows=1, ncols=3, errorevery=6) ax_c.errorbar(x, y2, yerr=y2err, errorevery=6) ax_r.set_title('second series shifted by 3' ) ax_r.errorbar(x, y1, yerr=y1err, errorevery=(0, 6)) ax_r.errorbar(x, y2, yerr=y2err, errorevery=(3, xdata1.sort() xdata2.sort() # create some y data points ydata1 = xdata1 ** 2 ydata2 = 1 - xdata2 ** 3
60810编辑于 2022-05-28 - 来自专栏ACM算法竞赛——模板
ACM算法竞赛——高精度除以低精度（模板）
// A / b = C ... r, A >= 0, b > 0 vector<int> div(vector<int> &A, int b, int &r) { vector<int> C; r = 0; for (int i = A.size() - 1; i >= 0; i -- ) { r = r * 10 + A[i]; C.push_back(r / b); r %= b; } reverse(C.
63250编辑于 2022-05-14 数据中心高精度电压监测装置
、AI运维等新技术应用为什么要在数据中心中加装高精度电压监测装置保障设备稳定运行适应敏感设备需求：数据中心的服务器、存储设备等对电压稳定性要求极高。 助力故障快速定位：当数据中心发生电力故障时，高精度电压监测装置记录的详细电压数据能帮助运维人员快速判断故障位置和原因，缩短故障排查时间，加快维修进度，减少故障对业务的影响，提高数据中心的可用性。 提供运维决策依据：长期积累的高精度电压监测数据可作为数据中心电力系统运维管理的重要依据。通过对历史数据的分析，运维人员可制定更合理的设备维护计划、电力扩容方案等，优化数据中心的电力资源配置。 高精度电压监测装置可提前发现电压问题并预警，配合 UPS 等设备，确保在电压异常时设备能正常关机或继续运行，保护数据的完整性和一致性。 加装高精度电压监测装置有助于数据中心满足相关法规、标准和规范的要求，确保数据中心的建设和运营符合行业标准。
27000编辑于 2025-02-17- 来自专栏CNNer
【3D重建】开源 | 高精度RGB-D传感器采集的动态环境数据集。
论文地址： https://arxiv.org/pdf/1905.02082v3.pdf 代码： 公众号回复：1905.02082 来源： 波恩大学 论文名称：ReFusion: 3D Reconstruction 我们在现有数据集上评估我们的方法，并提供一个新的高度动态场景的数据集。实验结果表明，我们的方法性能SOTA。 总而言之，本文提供了由运动捕捉系统获得的RGB-D传感器轨迹和使用高精度地面激光扫描仪的静态环境模型的真值数据集，而且代码开源。 主要框架及实验结果 ? ? ? ? ? ? ? ? ? ? ? ?
1.2K20发布于 2020-12-15 - 来自专栏量化投资与机器学习
波动率预测：日内数据显著提升预测精度
更复杂的模型，如自回归条件异方差(ARCH)和广义ARCH (GARCH)，在以简单估计器为基准时，并没有提高美国股市的预测精度。期权隐含波动率数据的使用仅略微改善预测。 本文的实证部分比较了10种模型在联合数据集上的预测精度，并进行了基准分析。为了控制复杂性风险和过拟合风险，所有模型都选择了三个或三个以下的估计参数。值得注意的是，该研究发现，复杂性不会提高预测。 接下来，本文使用S&P500指数2000年至2020年期间的日度收益率数据对上述多个模型进行实证分析，其中2000-2016年的数据用作样本内数据计算最有参数（最小化MSE），2016-2020的数据用作样本外数据 其中，ARCH模型及intra-day日内模型的预测噪音较高，因为只使用了非常有限的跟踪数据。 下图3给出了预测精度方面的结果。总体而言，与固定方差估计相比，大多数模型的预测精度提高了约25%。 Negative Momentum和基于日内数据的intraday预测模型，分别提高了32%和34%的预测精度，是表现最好的两个模型。
1.3K20编辑于 2023-04-20
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号