- 综合排序
- 最热优先
- 最新优先
- 来自专栏Fish
双精度，单精度和半精度
浮点数是计算机上最常用的数据类型之一，有些语言甚至数值只有浮点型（Perl，Lua同学别跑，说的就是你）。 常用的浮点数有双精度和单精度。除此之外，还有一种叫半精度的东东。 双精度64位，单精度32位，半精度自然是16位了。 半精度是英伟达在2002年搞出来的，双精度和单精度是为了计算，而半精度更多是为了降低数据传输和存储成本。 很多场景对于精度要求也没那么高，例如分布式深度学习里面，如果用半精度的话，比起单精度来可以节省一半传输成本。考虑到深度学习的模型可能会有几亿个参数，使用半精度传输还是非常有价值的。 比较下几种浮点数的layout: 双精度浮点数： ? 单精度浮点数： ? 半精度浮点数： ? 它们都分成3部分，符号位，指数和尾数。 不同精度只不过是指数位和尾数位的长度不一样。
6.9K50发布于 2019-05-27 - 来自专栏计算机视觉战队
最高加速9倍！字节跳动开源8比特混合精度Transformer引擎
降低计算精度是比较直接的方法。2017 年以来，fp16 混合精度技术 [2] 获得了广泛应用。在对模型效果无损的前提下，将模型训练和推理的速度提升了 50% 以上。 量化技术 int8 量化的加速收益主要来自如下几个方面： GEMM 精度从 fp16 降低到 int8 后，计算时间缩短； 自定义算子采用 int8 输入输出后，数据读写时间缩短； 梯度采用 int8 红色箭头表示流动数据的类型是 int8，绿色箭头表示第二层 FFN 的 GEMM 输出是 int32 数据类型。 但是输入数据的 shape 或者显卡不同的话，GEMM 所采用的最优配置（例如数据排布、GEMM 算法等等）也可能不同，因此需要进行自动选取。 （附论文下载） CVPR21小样本检测：蒸馏&上下文助力小样本检测（代码已开源） 半监督辅助目标检测：自训练+数据增强提升精度（附源码下载） 目标检测干货 | 多级特征重复使用大幅度提升检测精度（
82240编辑于 2023-08-24 - 来自专栏sktj
Kubernetes(9:数据)
作用是在Pod中共享数据 创建Pod，volumeMounts ? image.png emptyDir是Host上创建的临时目录，其优点是能够方便地为Pod中的容器提供共享存储，不需要额外的配置。
42020发布于 2019-09-24 - 来自专栏机器之心
最高加速9倍！字节跳动开源8比特混合精度Transformer引擎
降低计算精度是比较直接的方法。2017 年以来，fp16 混合精度技术 [2] 获得了广泛应用。在对模型效果无损的前提下，将模型训练和推理的速度提升了 50% 以上。 由于目前流行的深度学习框架不支持 int8 精度，所以量化感知训练需要插入 fp16 的伪量化结点来模拟 int8 量化，导致量化感知训练反而比 fp16 混合精度训练慢 2-3 倍。 量化技术 int8 量化的加速收益主要来自如下几个方面： GEMM 精度从 fp16 降低到 int8 后，计算时间缩短； 自定义算子采用 int8 输入输出后，数据读写时间缩短； 梯度采用 int8 最后多机训练的瓶颈主要在梯度的通信，将梯度量化为 int8 精度可以大大加快分布式训练的速度。 量化原理 为了弥补量化带来的精度损失，通常需要用量化感知训练来模拟量化过程。 红色箭头表示流动数据的类型是 int8，绿色箭头表示第二层 FFN 的 GEMM 输出是 int32 数据类型。
1.4K10编辑于 2022-12-15 - 来自专栏mysql
hhdb数据库介绍(9-9)
高可用服务读写分离计算节点支持读写分离功能，并且支持配置读写分离权重读写分离功能说明要使用读写分离功能，需在数据节点中配置主备存储节点。读写分离功能默认设置为关闭。 -- 不开启读写分离：0；可分离的读请求发往所有可用数据源：1；可分离的读请求发往可用备数据源：2；事务中发生写前的读请求发往可用备数据源：3--><property name="weightForSlaveRWSplit strategyForRWSplit参数为1时可设置主备存储节点的读比例，设置备存储节点读比例后<em>数据</em>节点下的所有备存储节点均分该比例的读任务。 strategyForRWSplit参数为2时<em>数据</em>节点上的所有可分离的读任务会自动均分至该<em>数据</em>节点下的所有备存储节点上，若无备存储节点则由主存储节点全部承担。 用户级别的读写分离可通过管理平台创建<em>数据</em>库用户页面添加用户或编辑用户开启用户级别的读写分离。
25110编辑于 2024-11-29 - 来自专栏联远智维
高精度数据采集板（一）
前几天学习了嘉立创开源的《NBIoT定位器》项目，对移远通信模块进行了调试，并将结果上传到ONENET云平台；然而实际应用场景中不仅需要定位模块，还经常涉及到信号采集任务，因此近来设计了一款高精度数据采集版 ，通过STM32L431 + BC20 + AD7190模块采集传感器数据输出数据并上传到云平台，具体结果如下所示：图片硬件结构 数据采集版硬件结构主要包含：主控模块、AD7190模数转化模块
1.1K40编辑于 2022-09-01 - 来自专栏全栈程序员必看
oracle number数据类型的精度
p: 1—38 s: -84—127 a、s > 0 (精确到小数点右边 s 位，并四舍五入 。然后检验有效数位是否 <= p) 例如：number(5,2) 有效数字最多是5位，保留小数点后2位； 123.45 — 123.45 123 — 123.00 1.2356 — 1.24 0.001 — 0.00 b、s < 0 (精确到小数点左边 s 位，并四舍五入 。然后检验有效数位是否 <= p + |s|) 例如：number(5,-2) 小数点左边最后2位四舍五入，最多7位有效数字 123456 — 123460 1234567.6789 — 1234600 1 — 0 总结：在 p < s 这种情况下 只能用来存放大于0小于1的小数。 在 p > s 这种情况下 小数点前最多只能插入：p – s个数字，但小数点后的数字可以是任意长度（保存时会四舍五入）
1.7K20编辑于 2022-09-15 - 来自专栏csxiaoyao
HDU 1002 高精度 大数据加法
一条很简单的大数据加法题，题意简单明了 题目： A + B Problem II Time Limit: 2000/1000 MS (Java/Others) Memory Limit j]+=b[x++]-'0'; } for(j=0;j<l;j++) { e[j]=c[j]+d[j]; } for(j=0;j<l;j++) { if(e[j]>9)
63720发布于 2019-02-18 - 来自专栏技术集锦
练习9—数据计算
题目 写一个简单的函数实现下面的功能：具有三个参数，完成对两个整型数据的加、减、乘、除四种操作，前两个为操作数，第三个参数为字符型的参数。 ; } 说明 注意switch-case语句中case处的数据类型，因为设定了变量c为char类型，所以需要使用 c = input.next().charAt(0) 语句接收用户键盘上的单个字符输入
31620编辑于 2022-06-03 - 来自专栏DeepHub IMBA
RAG系统文本分块优化指南：9种实用策略让检索精度翻倍
当需要确保输入数据具有一致尺寸时（如为具有固定输入维度的机器学习模型提供数据），通常采用这种策略。 基于语义分块的局限性主要体现在计算成本方面，嵌入生成和相似性计算是资源密集型操作，在大规模数据集上可能面临性能瓶颈。 此外，主题建模算法的计算开销较大，在大规模数据集上的扩展性存在挑战。 返回一个包含图像数据和元数据的字典列表。 {"text_chunks": text_chunks, "tables": tables, "images": images} result = modality_chunk(pdf_file) 9、
1.6K11编辑于 2025-08-20 JavaScript——数字超过精度导致数据有误
前言 接口返回的number类型的数据，超过了JavaScript中Number类型的限制，浏览器自动进行了转换； console.log(7232167009634730040) 内容 以下内容来自 大于这个值的整数在 JavaScript 中会失去精度或变为 Infinity。 > 9007199254740991 // 最大安全整数 9007199254740991 > 9007199254740992 9007199254740992 // 超出范围,已经失去精度 这可以保证数字的精度。 API 直接返回字符串,如 "7232167009634730040"。前端检查是否可以转为 Number,如果不能则使用字符串处理。 这样也可以避免精度丢失的问题。 API 返回支持大数的类型,如 String、Decimal 等。然后前端引入对应库处理。 在前后端共同配合下,返回和解析合适格式的数值。
48510编辑于 2024-08-15- 来自专栏架构精进之路
不可忽视的PHP数据精度损失问题
不知大家在开发过程中有没有常常会遇到数据精度问题呢，类似下面这样的： <?php $a = 0.57; echo intval(floatval($a) * 100); 预期输出结果57，实则56。 首先我们要知道浮点数的表示(IEEE 754)： 浮点数, 以64位的长度(双精度)为例，会采用1位符号位(E)，11指数位(Q)，52位尾数(M)表示(一共64位) 符号位：最高位表示数据的正负，0表示正数 ，1表示负数； 指数位：表示数据以2为底的幂，指数采用偏移码表示； 尾数：表示数据小数点后的有效数字。 （暂且当作 0 舍 1 入） 双精度浮点数能表示多少精度呢？ 对于高精度数据操作，建议使用以下函数： bcadd — 将两个高精度数字相加 bccomp — 比较两个高精度数字，返回-1, 0, 1 bcdiv — 将两个高精度数字相除 bcmod — 求高精度数字余数
1.2K10发布于 2021-02-05 - 来自专栏用户5637037的专栏
图插值激活提高数据高效深度学习的自然精度和鲁棒精度
Both Natural and Robust Accuracies in Data-Efficient Deep Learning 摘要：提高深度神经网络(DNNs)的准确性和鲁棒性，并使其适应较小的训练数据 本文用一个基于拉普拉斯图的高维插值函数代替DNNS的输出激活函数(典型的数据无关的Softmax函数)，该函数在连续极限下收敛于高维流形上的Laplace-Beltrami方程的解。 与传统的以Softmax函数作为输出激活的DNN相比，该框架具有以下主要优点：第一，它更适用于不使用大量训练数据而训练高容量DNN的数据高效学习。
82110发布于 2019-07-17 - 来自专栏算法学习日常
高精度加法和高精度减法
（期末了，天天都会想创作，但是有点怕费时间，耽误复习，之前想发一个关于C语言程序漏洞的博客，但是写一半操作发现那个漏洞被vs改了，因此没发布，今天就写一下我前几周写过的算法题，高精度加减法吧（用C++写法更方便 1.引入： 高精度算法：是可以处理较大数据的算法，这里所说的较大数据指的是已经爆了long long范围的，而此算法是模拟正常加减法计算操作的算法。 2.高精度加法 （题目链接：P1601 A+B Problem（高精） - 洛谷 | 计算机科学教育新生态 (luogu.com.cn)） #include <iostream> #include <cstring > using namespace std; typedef long long ll; int main() { //因为加法都是从后往前加，但是数据输入时却是从前往后输入，因此先把他当作字符串输入 （题目链接：P2142 高精度减法 - 洛谷 | 计算机科学教育新生态 (luogu.com.cn)） 与加法相似，但是要多调换字符串这一步骤 #include <iostream> #include
42210编辑于 2024-03-25 - 来自专栏CSDN搜“看，未来”
数据结构（9）-- 跳表
文章目录 跳表 跳表的搜索 跳表的插入 抛硬币 跳表的删除 跳表的代码实现 跳表数据结构 初始化跳表 插入节点 删除节点 销毁跳表 为什么Redis要用跳表来实现有序集合？ 跳表(skip list) 对应的是平衡树(AVL Tree)，是一种 插入/删除/搜索 都是 O(log n) 的数据结构。它最大的优势是原理简单、容易实现、方便扩展、效率更高。 节点，发现17比其大，向后搜索，发现6后面的节点指向了Nil(第4层)，那么搜索的层数降低1层， 从此节点的第3层开始搜索，发现下个节点是25，大于17，那么再降低一层，从2层开始搜索，发现第2层是9， 小于17，继续搜索，发现9节点的下一个数是17，搜索完成。 ---- 跳表的代码实现 跳表数据结构 如上图中的E节点，表示的是头节点，一般跳表的实现，最大有多少层(MAX_LEVEL)是确定的。所以e的个数是固定的。
52030发布于 2021-09-18 - 来自专栏全栈程序员必看
Landsat 9 数据详细介绍
目录 1.基本情况 2.Landsat9数据介绍 2.1 Landsat系列波段信息图谱 2.2 Landsat9基本信息 2.2.1 Quick Facts 2.2.2 LANDSAT9 波段信息 ，实际于于2021年9月27日发射，并已经开始采集第一批数据，2021年10月31日获取到遥感数据。 Landsat 9 的 OLI-2 和 TIRS-2 的 14 位数据将其增加到 16,384 个数据值。 然而，不同之处在于，Landsat 9 将下行链接 OLI-2 产生的所有 14 位数据，与从 Landsat 8 的 OLI 下行链接的 12 位数据相比，为其图像提供更大的位深度。 Landsat9数据目前成处于检查期，后期将于USGS网站免费共享。
5.3K20编辑于 2022-09-15 - 来自专栏机器学习/数据可视化
数据平滑9大妙招
今天给大家分享9大常见数据平滑方法：移动平均Moving Average指数平滑Exponential Smoothing低通滤波器多项式拟合贝塞尔曲线拟合局部加权散点平滑LoessKalman滤波小波变换 它对最近的数据点给予较高的权重，而对较早的数据点给予较低的权重。这使得EMA更适合用于追踪快速变化的数据。 指数平滑的主要特点包括：加权平滑：指数平滑使用指数权重来平滑数据。较新的数据点获得更高的权重，而较旧的数据点获得较低的权重。这意味着它对最近的数据更为敏感，从而更好地捕获了数据的最新趋势。 7, 8, 9])y = np.array([10, 8, 7, 6, 5, 4, 3, 2, 1])# 三阶多项式拟合degree = 3coefficients = np.polyfit(x, y 数据平滑：Savitzky-Golay滤波器旨在平滑数据，减小数据中的高频噪声和突发波动。它保留了数据中的趋势和主要特征，同时去除了噪声。
6K44编辑于 2023-10-13 - 来自专栏LET
精度，Precision
上一节我们讲了球心坐标和本地坐标之间的转换，这里也有一个精度的问题。 如果不想花时间，只需要记住，float可以有7位有效数字，而double可以有16位，选择合适的浮点类型，当你的精度需求超过这个范围时，你就要小心了。 相机抖动 如果精度达不到要求，怎么办？ 但在Virtual Earth中，如果我们近地面浏览，RTC-rendering还是会出现浏览范围超过float精度的情况，就会出现精度的丢失，也就是相机抖动。 不管怎样，你能看到的，要么范围大，精度低，要么范围小，精度高。 本文主要介绍了我对精度的理解，float精度为何会有损失，以及RTC和RTE解决相机抖动的思路，因为孩子发烧，无能为力，夜不能寐，索性写写文章，聊以自慰，因而写的过程比较压抑。
1.6K70发布于 2018-06-20 - 来自专栏全栈程序员必看
numpy.astype数据精度导致数据变化的问题「建议收藏」
在用numpy.astype强制转换数据类型的时候，由于numpy精度的问题将会对长度超过16位的数据发生不可预见的变化。 98092567621991296, 29336557186973848], [27275086880071664, 17713014931142608]], dtype=int64) 可以发现，所有数据前 16位都是相同的，16位以后就不可控了，导致错误发生的原因，就是numpy的32位精度问题导致的。 我尝试了DataFrame的object类型可以解决，解决方式如下： 将numpy转换为DataFrame的时候，指定数据类型为object。 生成之后，在利用astype将其转换为int64即可。
73010编辑于 2022-08-15 - 来自专栏图像处理与模式识别研究所
含有带有很少误差条的数据全精度数据图。
import numpy as np import matplotlib.pyplot as plt # example data x = np.arange(0.1, 4, 0.1) y1 = np.exp(-1.0 * x) y2 = np.exp(-0.5 * x) # example variable error bar values y1err = 0.1 + 0.1 * np.sqrt(x) y2err = 0.1 + 0.1 * np.sqrt(x/2) # Now switch t
60810编辑于 2022-05-28
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号