- 综合排序
- 最热优先
- 最新优先
- 来自专栏AI机器学习与深度学习算法
机器学习入门 4-4 分类精度
本小节主要介绍kNN算法的分类精度以及在sklearn中的实现。 分类精度 ? 通过上一小节的介绍，我们使用Train_Test_Split方法将这个数据集划分为训练集和测试集，通过训练集训练得到机器学习模型，之后通过测试集评测模型的效果。 下面我们使用sklearn封装好的手写数字数据集，自己简单代码得到分类的精确度： ? ? ? ? ? 因为计算分类精度的功能非常常用，因此我们将其加入playML包下，在playML包下新建一个名为"metrics"（度量）的Python文件，里面的内容如下： ? 在jupyter中调用即可： ? 在jupyter中直接计算分类精度： ? sklearn中的分类精度 ? ? 这里简单总结一下求解分类精度： ?
92800发布于 2019-11-13 - 来自专栏Fish
双精度，单精度和半精度
浮点数是计算机上最常用的数据类型之一，有些语言甚至数值只有浮点型（Perl，Lua同学别跑，说的就是你）。 常用的浮点数有双精度和单精度。除此之外，还有一种叫半精度的东东。 双精度64位，单精度32位，半精度自然是16位了。 半精度是英伟达在2002年搞出来的，双精度和单精度是为了计算，而半精度更多是为了降低数据传输和存储成本。 很多场景对于精度要求也没那么高，例如分布式深度学习里面，如果用半精度的话，比起单精度来可以节省一半传输成本。考虑到深度学习的模型可能会有几亿个参数，使用半精度传输还是非常有价值的。 比较下几种浮点数的layout: 双精度浮点数： ? 单精度浮点数： ? 半精度浮点数： ? 它们都分成3部分，符号位，指数和尾数。 不同精度只不过是指数位和尾数位的长度不一样。
6.9K50发布于 2019-05-27 - 来自专栏集智书童
图视觉模型崛起 | MobileViG同等精度比MobileNetv2快4倍，同等速度精度高4%！
2、相关工作 ViG被提议作为神经网络和ViT的替代方案，因为它能够以更灵活的格式表示图像数据。ViG通过使用KNN算法来表示图像，其中图像中的每个像素都关注相似的像素。 因此，通过提供比基于ViT的模型更快的速度和比基于CNN的模型更高的精度，基于ViG的模型可能是一种可能的解决方案。 对于数据扩充，作者使用RandAugment、Mixup、Cutmix、随机擦除和重复扩充。 作者使用iPhone 13 Mini（iOS 16）在NPU和GPU上测试延迟。 作者在Mask RCNN中集成了MobileViG作为Backbone，并使用MS COCO 2017数据集进行了实验。 如表4所示，在相似的模型大小下，MobileViG在目标检测和/或实例分割方面的参数或改进的平均精度（AP）方面优于ResNet、PoolFormer、EfficientFormer和PVT。
96440编辑于 2023-09-04 - 来自专栏海天一树
小朋友学C语言（4）：单精度浮点数与双精度浮点数
计算机程序中的浮点数分为单精度浮点数和双精度浮点数。 单精度和双精度精确的范围不一样。 计算机里的最基本的存储单位用位(bit)来表示。bit只能用来存储0或1。 （float）在计算机中存储占用4字节，32位，有效位数为7位（6位小数+小数点）。 双精度（double）在计算机中存储占用8字节，64位，有效位数为16位（15位小数+小数点）。 双精度则分别为1, 11, 52。 双精度小数部分9位都是准确的。
3.7K120发布于 2018-04-17 - 来自专栏联远智维
高精度数据采集板（一）
前几天学习了嘉立创开源的《NBIoT定位器》项目，对移远通信模块进行了调试，并将结果上传到ONENET云平台；然而实际应用场景中不仅需要定位模块，还经常涉及到信号采集任务，因此近来设计了一款高精度数据采集版 ，通过STM32L431 + BC20 + AD7190模块采集传感器数据输出数据并上传到云平台，具体结果如下所示：图片硬件结构 数据采集版硬件结构主要包含：主控模块、AD7190模数转化模块
1.1K40编辑于 2022-09-01 - 来自专栏全栈程序员必看
oracle number数据类型的精度
p: 1—38 s: -84—127 a、s > 0 (精确到小数点右边 s 位，并四舍五入 。然后检验有效数位是否 <= p) 例如：number(5,2) 有效数字最多是5位，保留小数点后2位； 123.45 — 123.45 123 — 123.00 1.2356 — 1.24 0.001 — 0.00 b、s < 0 (精确到小数点左边 s 位，并四舍五入 。然后检验有效数位是否 <= p + |s|) 例如：number(5,-2) 小数点左边最后2位四舍五入，最多7位有效数字 123456 — 123460 1234567.6789 — 1234600 1 — 0 总结：在 p < s 这种情况下 只能用来存放大于0小于1的小数。 在 p > s 这种情况下 小数点前最多只能插入：p – s个数字，但小数点后的数字可以是任意长度（保存时会四舍五入）
1.7K20编辑于 2022-09-15 - 来自专栏DeepHub IMBA
NVFP4量化技术深度解析：4位精度下实现2.3倍推理加速
通过对公开模型和自定义量化变体的全面测试，本文将在精度、模型大小和推理吞吐量等维度提供详实的评估数据。 ，使权重在整个推理过程中保持NVFP4格式，因为激活采用相同数据类型。 如果希望保持激活精度以最大化模型准确性，可选择NVFP4A16方案，该方案仅量化权重，通常无需校准数据集。 推理性能突破 尽管NVFP4在压缩率和精度方面并无显著优势，但在推理速度上表现卓越，大幅超越测试中的所有其他量化模型： 得益于Blackwell GPU对NVFP4数据类型的原生加速，NVFP4模型比INT4 从技术角度看，NVFP4模型的QLoRA微调是完全可行。NVFP4本质上只是一种数据类型和量化格式，QLoRA可以应用于任何格式和数据类型的量化模型。
1.1K10编辑于 2025-11-15 - 来自专栏csxiaoyao
HDU 1002 高精度 大数据加法
一条很简单的大数据加法题，题意简单明了 题目： A + B Problem II Time Limit: 2000/1000 MS (Java/Others) Memory Limit
63720发布于 2019-02-18 - 来自专栏深度学习和计算机视觉
YOLO v4：物体检测的最佳速度和精度
YOLO v4在MS COCO数据集上实现了实时检测的最优表现，在Tesla V100上以65 FPS运行，AP达到43.5％。 如与使用Swish或ReLU激活函数的Squeeze Excite网络（CIFAR-100数据集）Mish激活函数分别使得测试精度提升0.494％、1.671％[14]。 其他一些图形化的激活函数参考：https://www.desmos.com/calculator/rhx5tl8ygi 4.YOLO v4设计 已经讨论了用于提高模型精度和目标检测器不同部分（骨干、颈部 其他改进 （1）使用“Mosaic”的数据增强新方法：将训练数据集的4张图像合并为1张图像：批量归一化从每层的4张不同的图像计算激活统计信息[5]，因此极大地减少了选择大型mini-batch批量进行训练的需求 如果您想降低精度但要提高FPS，请在官方仓库中查看新的Yolo v4 Tiny版本https://github.com/AlexeyAB/darknet。
3.9K30发布于 2020-08-04 JavaScript——数字超过精度导致数据有误
前言 接口返回的number类型的数据，超过了JavaScript中Number类型的限制，浏览器自动进行了转换； console.log(7232167009634730040) 内容 以下内容来自 大于这个值的整数在 JavaScript 中会失去精度或变为 Infinity。 > 9007199254740991 // 最大安全整数 9007199254740991 > 9007199254740992 9007199254740992 // 超出范围,已经失去精度 这可以保证数字的精度。 API 直接返回字符串,如 "7232167009634730040"。前端检查是否可以转为 Number,如果不能则使用字符串处理。 这样也可以避免精度丢失的问题。 API 返回支持大数的类型,如 String、Decimal 等。然后前端引入对应库处理。 在前后端共同配合下,返回和解析合适格式的数值。
48510编辑于 2024-08-15NVFP4低精度训练实现1.59倍吞吐量
使用NVFP4低精度模型训练实现更高吞吐量且不损失精度随着AI模型和数据集规模的持续增长，仅依赖高精度的BF16训练已不再足够。 NVFP4：通过对张量值使用4位格式并采用分层两级缩放策略，进一步提高了内存效率和吞吐量。低精度训练能否在大规模下达到BF16的精度？ B200 GPU上的NeMo Megatron Bridge两个数据集：Lingua DCLM数据集和一个内部数据集。 Llama 3 8B在两个数据集上都进行了训练，Research-8B在内部研究数据集上进行了训练收敛行为：各精度下的训练稳定性图2、3和4展示了两种模型和数据集上的训练和验证损失曲线。 Llama 3 8B和Research-8B在BF16、FP8-CS、MXFP8和NVFP4训练下的下游任务精度（%）模型数据集精度MMLU (↑)HellaSwag (↑)WinoGrande (↑)
19910编辑于 2026-04-17- 来自专栏架构精进之路
不可忽视的PHP数据精度损失问题
不知大家在开发过程中有没有常常会遇到数据精度问题呢，类似下面这样的： <?php $a = 0.57; echo intval(floatval($a) * 100); 预期输出结果57，实则56。 首先我们要知道浮点数的表示(IEEE 754)： 浮点数, 以64位的长度(双精度)为例，会采用1位符号位(E)，11指数位(Q)，52位尾数(M)表示(一共64位) 符号位：最高位表示数据的正负，0表示正数 ，1表示负数； 指数位：表示数据以2为底的幂，指数采用偏移码表示； 尾数：表示数据小数点后的有效数字。 （暂且当作 0 舍 1 入） 双精度浮点数能表示多少精度呢？ 对于高精度数据操作，建议使用以下函数： bcadd — 将两个高精度数字相加 bccomp — 比较两个高精度数字，返回-1, 0, 1 bcdiv — 将两个高精度数字相除 bcmod — 求高精度数字余数
1.2K10发布于 2021-02-05 - 来自专栏深度学习与计算机视觉
目标检测(object detection)系列（十六）YOLOv4：平衡速度与精度
简介 YOLOv4是YOLO之父Joseph Redmon宣布退出计算机视觉的研究之后推出的YOLO系列算法，其作者Alexey Bochkovskiy也参与了YOLO之前系列算法，《YOLOV4: Optimal Speed and Accuracy of Object Detection》，其主要贡献在于对近些年CNN领域中最优秀的优化策略，从数据处理、主干网络、网络训练、激活函数、损失函数等各个方面都有着不同程度的优化 ，组合出一个精度与速度兼备的结构。 YOLOv4结构 YOLOv4的结构和YOLOv3很类似，下图是YOLOv3的，首先YOLOv4换了backbone，由Darknet53换成了CSPDarknet53，Neck的部分修改比较大， bag of tricks Mosaic Mosaic 是一种数据增强方法，将 4 张训练图像组合成一张进行训练，这增强样本的丰富程度。
61310编辑于 2021-12-07 - 来自专栏用户5637037的专栏
图插值激活提高数据高效深度学习的自然精度和鲁棒精度
Both Natural and Robust Accuracies in Data-Efficient Deep Learning 摘要：提高深度神经网络(DNNs)的准确性和鲁棒性，并使其适应较小的训练数据 本文用一个基于拉普拉斯图的高维插值函数代替DNNS的输出激活函数(典型的数据无关的Softmax函数)，该函数在连续极限下收敛于高维流形上的Laplace-Beltrami方程的解。 与传统的以Softmax函数作为输出激活的DNN相比，该框架具有以下主要优点：第一，它更适用于不使用大量训练数据而训练高容量DNN的数据高效学习。
82110发布于 2019-07-17 - 来自专栏算法学习日常
高精度加法和高精度减法
（期末了，天天都会想创作，但是有点怕费时间，耽误复习，之前想发一个关于C语言程序漏洞的博客，但是写一半操作发现那个漏洞被vs改了，因此没发布，今天就写一下我前几周写过的算法题，高精度加减法吧（用C++写法更方便 1.引入： 高精度算法：是可以处理较大数据的算法，这里所说的较大数据指的是已经爆了long long范围的，而此算法是模拟正常加减法计算操作的算法。 2.高精度加法 （题目链接：P1601 A+B Problem（高精） - 洛谷 | 计算机科学教育新生态 (luogu.com.cn)） #include <iostream> #include <cstring > using namespace std; typedef long long ll; int main() { //因为加法都是从后往前加，但是数据输入时却是从前往后输入，因此先把他当作字符串输入 注意或者后面的情况，若只有或者前面部分的，若是3-4这种情况，则无法算出正确答案*/ //str1<str2:前者的数字小于后面的数，虽然这是字符串，但仍然可以这样比较 flag = 1;
42210编辑于 2024-03-25 - 来自专栏ATYUN订阅号
IBM的AI训练技术速度提高4倍，并保持原有精度
2018中详细介绍了两种技术，IBM Research-Almaden副总裁兼实验室主任Jeffrey Welser表示，“下一代AI应用程序需要更快的响应时间，更大的AI工作负载以及来自众多流的多模式数据 正如Welser所解释的那样，具有16位精度引擎的“计算构建块”平均比具有32位精度的类似块小4倍。 他们声称他们的技术可以使深层神经网络的训练时间比16位系统快2到4倍。 同时比同类数字AI系统消耗的能量少33倍，且精度大约为原来的2倍。 论文的作者提出了内存计算作为传统内存的替代方案，它具有存储和处理数据的双重功能。 Welser指出，“我们的研究团队提高了精度，表明内存计算能够在低功耗环境中实现高性能深度学习，例如物联网和边缘应用，与我们的数字加速器一样，我们的模拟芯片可以扩展到视觉，语音和文本数据集的AI训练和推理
81530发布于 2018-12-24 - 来自专栏SIGAI学习与实践平台
户外场景4种典型3D相机成像精度实测
本次测试了这4款3D相机在户外较强光照条件下对典型材质物体的成像效果，重点分析精度与成像稳定性。 下表是4种型号相机的部分参数。 ：3840x2160深度图：1920x1080 Z值精度1~5mm@1.5~4m 1~2fps 高 本次测试物品包括：混凝土，石块，砖，金属，木材，纸制品，塑料，植物等，均在室外场景拍摄，成像距离在1.5 综合考虑各方面的因素，下面介绍各种相机适用的场景： 1.双目相机A，价格最便宜，成像速度最快，精度最低。适用于对成本敏感，对成像精度与稳定性没有严格要求的室外场景，以及室内对精度要求不高的场景。 3.结构光相机A，在室内场景中精度最高且成像稳定，成像速度慢，价格高。适用于室内场景的高精度应用，包括机械臂引导，精确测量，缺陷检测等。 4.Tensor Eye，户外场景精度最高，通常可以稳定地达到毫米级成像误差，成像速度慢，价格高。适用于户外场景对价格不敏感、对速度要求不高的高精度应用，包括机械臂引导、精确测量等。
1.3K20编辑于 2023-10-23 - 来自专栏AustinDatabases
4种databases (PMSO) 在精度计算中的问题解决
4 这样的问题在 SQL SERVER 中存在不存在，答案是存在，并且更难搞 首先我们照搬上面的计算，图中很清楚的看到，结果和ORACLE 不同如初一辙 ? 结果和ORACLE 不同，即使使用双精度的数字进行计算还是造成计算顺序不同，而值不同的情况， 则解决的方法有两个 方法1 多添加保留位，在图中我们可以看到，结果是一致的，但我想很多开发的同学都不大会满意 那如果此种情形发生在MYSQL 数据库中呢？ 同样 MYSQL 中存在同样的问题 ? 最后，PostgreSQL 怎么来进行下面的事情 在众多的数据库中，只有POSTGRESQL 给出了事情的真相，顺序不同计算的结果是不同的 ?
87920发布于 2019-06-21 - 来自专栏LET
精度，Precision
上一节我们讲了球心坐标和本地坐标之间的转换，这里也有一个精度的问题。 如果不想花时间，只需要记住，float可以有7位有效数字，而double可以有16位，选择合适的浮点类型，当你的精度需求超过这个范围时，你就要小心了。 相机抖动 如果精度达不到要求，怎么办？ 但在Virtual Earth中，如果我们近地面浏览，RTC-rendering还是会出现浏览范围超过float精度的情况，就会出现精度的丢失，也就是相机抖动。 不管怎样，你能看到的，要么范围大，精度低，要么范围小，精度高。 本文主要介绍了我对精度的理解，float精度为何会有损失，以及RTC和RTE解决相机抖动的思路，因为孩子发烧，无能为力，夜不能寐，索性写写文章，聊以自慰，因而写的过程比较压抑。
1.6K70发布于 2018-06-20 - 来自专栏全栈程序员必看
numpy.astype数据精度导致数据变化的问题「建议收藏」
在用numpy.astype强制转换数据类型的时候，由于numpy精度的问题将会对长度超过16位的数据发生不可预见的变化。 98092567621991296, 29336557186973848], [27275086880071664, 17713014931142608]], dtype=int64) 可以发现，所有数据前 16位都是相同的，16位以后就不可控了，导致错误发生的原因，就是numpy的32位精度问题导致的。 我尝试了DataFrame的object类型可以解决，解决方式如下： 将numpy转换为DataFrame的时候，指定数据类型为object。 生成之后，在利用astype将其转换为int64即可。
73010编辑于 2022-08-15
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号