tensorflow中卷积神经网络8位量化的量化方案
tensorflow中卷积神经网络8位量化的量化方案
提问于 2020-03-27 01:18:56
从所有我为CNN提供的Tensorflow code for quantization量化参考中，量化方案是这样表述的
对于8位，步长= range/255此处range = xmax-xmin，但如tensorflow实现中的图像所示
范围由range = std::max(std::abs(*min_value)，std：：abs(*max_value))给出；
有谁能告诉我它们的区别或用途吗？
回答 1
Stack Overflow用户
发布于 2020-04-02 07:10:51
这是因为您指向的代码用于对称量化，其中范围需要在0的两侧相同。因此，代码中的" range“变量实际上指的是整个浮点范围的一半。
例如，min_value = -1 max_value =2
范围= std::max(abs(-1)，abs(2)) =2
因此，代码中的整个范围将是-2到2。
希望这是有意义的！
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://stackoverflow.com/questions/60872726
复制相关文章
相似问题
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号