- 综合排序
- 最热优先
- 最新优先
- 来自专栏DeepHub IMBA
从16-bit 到 1.58-bit ：大模型内存效率和准确性之间的最佳权衡
通过量化可以减少大型语言模型的大小，但是量化是不准确的，因为它在过程中丢失了信息。通常较大的llm可以在精度损失很小的情况下量化到较低的精度，而较小的llm则很难精确量化。
1.5K10编辑于 2024-03-11 - 来自专栏全栈程序员必看
[ACM] HDU 5083 Instruction （模拟）
Each instruction corresponds to a 16-bit binary code. So we can transfer an instruction into a 16-bit binary code easyly. So we joint them to get the 16-bit binary code which is 0000010000100010. to transfer an instruction into a 16-bit binary code or vice-versa. transfer a 16-bit binary code into an instruction.
29620编辑于 2022-07-08 - 来自专栏RainMark 的文章
Assembly - Registers
Processor Registers There are ten 32-bit and six 16-bit processor registers in IA-32 architecture. Lower halves of the 32-bit registers can be used as four 16-bit data registers: AX, BX, CX and DX. Lower and higher halves of the above-mentioned four 16-bit registers can be used as eight 8-bit data Stack Pointer (SP) − The 16-bit SP register provides the offset value within the program stack. Index Registers The 32-bit index registers, ESI and EDI, and their 16-bit rightmost portions.
64810发布于 2019-09-10 - 来自专栏大前端修炼手册
基本数据类型：Kotlin、Dart (Flutter)、Java 和 C++ 的比较
一、基本数据类型的比较 1.1 整数类型 Kotlin: Byte (8-bit), Short (16-bit), Int (32-bit), Long (64-bit) Dart (Flutter) : int (64-bit on VM, 32-bit on web) Java: byte (8-bit), short (16-bit), int (32-bit), long (64-bit) C -bit Unicode character) Dart (Flutter): 没有专门的字符类型，通常使用单字符的字符串表示 Java: char (16-bit Unicode character) -bit), Int (32-bit), Long (64-bit) int (64-bit on VM, 32-bit on web) byte (8-bit), short (16-bit), int -bit Unicode character) 无专门字符类型，使用单字符字符串 char (16-bit Unicode character) char, wchar_t (位数取决于编译器和平台)
69810编辑于 2024-11-19 - 来自专栏全栈程序员必看
scratch文字朗读没有声音怎么办_pocketfiles怎样解密
myfile.wav Input File : 'myfile.wav' Channels : 1 Sample Rate : 44100 Precision : 16 3812421 samples = 6483.71 CDDA sectors File Size : 7.62M Bit Rate : 706k Sample Encoding: 16 wav Input File : 'myfile-16000.wav' Channels : 1 Sample Rate : 16000 Precision : 16 1383191 samples ~ 6483.71 CDDA sectors File Size : 2.77M Bit Rate : 256k Sample Encoding: 16
2.1K10编辑于 2022-11-07 - 来自专栏VBA 学习
VBA解析VBAProject 04——run length encoding
specifies the beginning of a CopySequence (section 2.4.1.3.19). ' // Length (2 bytes): An unsigned 16 BitCount As Integer, MaximumLength As Integer) As String ' // LengthMask (2 bytes): An unsigned 16 A bitmask used to access CopyToken.Length. ' // OffsetMask (2 bytes): An unsigned 16-bit integer. A bitmask used to access CopyToken.Offset. ' // BitCount (2 bytes): An unsigned 16-bit integer. The number of bits set to 0b1 in OffsetMask. ' // MaximumLength (2 bytes): An unsigned 16-bit integer
1.1K73发布于 2020-09-18 - 来自专栏有困难要上，没有困难创造困难也要上！
使用 pocketsphinx 做中文语音识别时报错 ERROR: Input audio file has sample rate [44100], but decoder expects [...
myfile.wav Input File : 'myfile.wav' Channels : 1 Sample Rate : 44100 Precision : 16 3812421 samples = 6483.71 CDDA sectors File Size : 7.62M Bit Rate : 706k Sample Encoding: 16 wav Input File : 'myfile-16000.wav' Channels : 1 Sample Rate : 16000 Precision : 16 1383191 samples ~ 6483.71 CDDA sectors File Size : 2.77M Bit Rate : 256k Sample Encoding: 16
99430发布于 2019-01-03 - 来自专栏韩曙亮的移动开发专栏
【Midjourney】Midjourney Prompt 提示词 ② ( 怀旧像素风 | 物体 A 被物体 B 包围 | 折纸艺术风格 )
一、8-bit 16bit 提示词 - 怀旧像素风 使用 8-bit 16-bit 提示词 , 可以绘制出 像素游戏风格的图像 , 如下图所示 ; 该提示词适合创作与游戏相关的内容 ; 命令拼接方式 : 8-bit game pixel art <描述内容> 16-bit game pixel art <描述内容> 示例 : /imagine prompt 8-bit game pixel art , boat in the sea 大图展示 : 使用 16 位 像素艺术风格 , 生成的图像更加细腻 ; 示例 : /imagine prompt 16-bit game pixel art ,
53021编辑于 2023-10-11 - 来自专栏韩曙亮的移动开发专栏
【Java 虚拟机原理】Dalvik 虚拟机 ( 打包 Jar 文件和 Dex 文件 | 反编译 Dex 文件 | 分析 Dex 文件反编译结果 )
- registers : 1 ins : 1 outs : 1 insns size : 4 16 - registers : 2 ins : 1 outs : 0 insns size : 12 16 - registers : 2 ins : 1 outs : 0 insns size : 3 16 - registers : 2 ins : 1 outs : 0 insns size : 3 16 - registers : 2 ins : 2 outs : 0 insns size : 3 16
2.6K20编辑于 2023-03-29 - 来自专栏GPUS开发者
DAY18：阅读纹理内存之Layered Textures
3.2.11.1.3. 16-Bit Floating-Point Textures The 16-bit floating-point or half format supported by CUDA Equivalent functions【等价函数】 for the host code can be found in the OpenEXR library, for example. 16-bit A channel description for the 16-bit floating-point format can be created by calling one of the cudaCreateChannelDescHalf 本文备注/经验分享： 16-Bit Floating-Point Textures 这部分内容因为我们从来没用过，所以没有好补充的...
1.1K50发布于 2018-06-22 - 来自专栏FPGA/ARM/DSP技术专栏
为何TI的GPMC并口，更常被用于连接FPGA、ADC？我给出3个理由
0] 16个信号引脚可支持地址线与数据线复用和非复用模式，这让GPMC与外设的连接模式变得很丰富，可以和宽范围的外部设备通信，如： 外部异步或同步8-bit位宽内存或设备（非突发设备） 外部异步或同步16 -bit位宽内存或设备 外部16-bit非复用NOR Flash设备 外部16-bit地址和数据复用NOR Flash设备 外部8-bit和16-bit NAND Flash设备 外部16-bit伪SRAM 1）16-bit Address/Data Multiplexed（地址线与数据线复用模式） 2）16-bit Nonmultiplexed（地址线与数据线非复用模式） 3）8-bit Nonmultiplexed
1.5K20编辑于 2022-05-26 - 来自专栏FPGA探索者
matlab与FPGA数字滤波器设计（6）—— Vivado 中使用 Verilog 实现并行 FIR 滤波器/截位操作
新建工程和文件 （1） 新建 Verilog 文件 输入信号 16-bit，输出信号 16-bit，复位 rst_n 低电平进行复位； ? 截位输出部分更改 还是看这张图，在对输入的 16-bit 数据做运算后，为了保证数据不溢出，得到的结果位宽逐渐变大，但是最后输出又是 16-bit，此时需要对数据进行截位（如果不截位，那么当一个数字信号处理系统较复杂的时候 ，数据的位宽会非常大，在处理中是不现实的），当对本例中的 32-bit 的数据进行截位时，从哪里开始截取是一个经常会遇到的问题： （1）截取高 16-bit (data_out_temp[31:16]) ，当数据比较大的时候可以这样做（高位上都是有效数据，用十进制举例 9 * 9 = 81，取十进制高位近似为 80，类比到二进制），这样相当于损失了一些低位的精度； （2）截取低 16-bit (data_out_temp
6.7K11发布于 2021-03-15 - 来自专栏张志敏的技术专栏
CocoaTouch 中的 NSString
%d, %D, %i Signed 32-bit integer (int) %u, %U Unsigned 32-bit integer (unsigned int) %hi Signed 16 -bit integer (short) %hu Unsigned 16-bit integer (unsigned short) %qi Signed 64-bit integer (long long character, in the octal format \ddd or the Unicode hexadecimal format \udddd, where d is a digit %C 16 %S Null-terminated array of 16-bit Unicode characters %p Void pointer (void *), printed in hexadecimal
56930发布于 2020-08-10 - 来自专栏全栈程序员必看
matlab 查看函数,如何查看ＭＡＴＬＡＢ函数的源代码 | 学步园「建议收藏」
– logical % 4-bit x x uint8 % 8-bit x x uint8 % 16 x uint8 Grayscale or RGB % 12-bit x x uint16 Grayscale % 16 —- % 1-bit x x logical % 2- to 8-bit x x uint8 % 9- to 16 24-bit uint8 RGB (Three 8-bit samples/pixel) % 48-bit uint16 RGB (Three 16 uint16 Grayscale % or Indexed % 16
4K20编辑于 2022-09-30 - 来自专栏关键帧Keyframe
音视频面试题集锦第 17 期
= 'RGBA', /* 32 bit RGBA */ kCVPixelFormatType_64ARGB = 'b64a', /* 64 bit ARGB, 16 -bit big-endian samples */ kCVPixelFormatType_64RGBALE = 'l64r', /* 64 bit RGBA, 16-bit full-range (0-65535) samples */ kCVPixelFormatType_48RGB = 'b48r', /* 48 bit RGB, 16 -bit big-endian samples */ kCVPixelFormatType_32AlphaGray = 'b32a', /* 32 bit AlphaGray, 16 -bit 4:4:4:4, ordered A Y' Cb Cr, full range alpha, video range Y'CbCr, 16-bit little-endian samples.
79110编辑于 2024-03-05 - 来自专栏计算机视觉理论及其实现
tf.dtypes
tf.float16: 16-bit half-precision floating-point. tf.float32: 32-bit single-precision floating-point. double-precision complex. tf.int8: 8-bit signed integer. tf.uint8: 8-bit unsigned integer. tf.uint16: 16 unsigned integer. tf.uint32: 32-bit unsigned integer. tf.uint64: 64-bit unsigned integer. tf.int16: 16 : Quantized 8-bit signed integer. tf.quint8: Quantized 8-bit unsigned integer. tf.qint16: Quantized 16 -bit signed integer. tf.quint16: Quantized 16-bit unsigned integer. tf.qint32: Quantized 32-bit signed
1.2K10编辑于 2022-09-28 - 来自专栏GEE数据专栏，GEE学习专栏，GEE错误集等专栏
GLanCE30 v001全球土地分类数据集，分辨率 30 m
bit unsigned integer 255 N/A 1 to 7 N/A ChgDate Estimated day of year of change; N/A if no change Day 16 change Class 8-bit unsigned integer 255 N/A 1 to 7 N/A EVI2med Median EVI2 in the current year N/A 16 bit signed integer 32767 N/A -10000 to 10000 0.0001 EVIamp Amplitude of EVI2 in the current year N/A 16 -bit unsigned integer 32767 N/A 0 to 20000 0.0001 EVI2rate Rate of change in EVI2 N/A 16-bit signed integer EVI2chg Change in EVI2 median from previous year to current year; N/A if no change in land cover N/A 16
41310编辑于 2024-02-02 - 来自专栏嵌入式iot
教你在RISCV中使用DSP指令!
1.概述 2.RISCV P扩展编程实践(内联汇编) ADD16 (SIMD 16-bit Addition) 3.RISCV P扩展编程实践(库函数) 4.总结 1.概述 DSP有相关的专业芯片，能够专门实现计算功能 ADD16 (SIMD 16-bit Addition) Type: SIMD Format: 31 25 24 20 19 15 14 12 11 7 6 0 ADD16 0100000 Rs2 Rs1 000 Rd OP-P 1110111 Syntax: ADD16 Rd, Rs1, Rs2 Purpose: Perform 16-bit integer element additions in Description: This instruction adds the 16-bit integer elements in Rs1 with the 16-bit integer elements in Rs2, and then writes the 16-bit element results to Rd.
2.6K11发布于 2021-09-15 - 来自专栏嵌入式智能硬件
蓝牙---BLE GATT介绍
UUID for Service Read Only, No Authentication, No Authorization 规则如下: - 当多个服务存在时 使用16 End Group Handle Service UUID Read Only, No Authentication, No Authorization 其中，仅当UUID是16 Handle of the Attribute containing the value of this characteristic Characteristic UUID 2/16 octets 16 Characteristics应该位于Include Declarations之后、其他可选characteristics之前 而Client不应该认为Characteristic是有序的 同时，16 Declaration如下 Attribute Handle Attribute Type Attribute Value Attribute Permissions 0xNNNN 0xuuuu – 16
4.2K20发布于 2020-08-31 - 来自专栏全栈程序员必看
1553B总线控制器61580使用
2、BU-61580的缓冲模式又分“8-bit”，和“16-bit”2种结构。分别称为“8-bit缓冲模式”与“16-bit缓冲模式”。 3、BU-61580读写模式有“0等待”与“非0等待”2种，与上述缓冲模式组合成4种工作模式：（1）8-bit缓冲、0等待；（2）8-bit缓冲、非0等待；（3）16-bit缓冲、0等待；（4）16-bit
1.1K30编辑于 2022-09-06
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号