位宽 - 技术新讯

技术新讯 > 位宽 > 列表

一种数据压缩方法、解压方法、位宽确定方法和系统与流程

本说明书涉及数据处理，特别涉及一种数据压缩方法、解压方法、位宽确定方法和系统。背景技术：1、浮点数，是属于有理数中某特定子集的数的数字表示，在计算机中用以近似表示任意某个实数，其广泛应用于科学计算、工......

2024-10-09 9

#方法#位宽#流程
自适应检查数据的比特位宽的装置、方法及设备与流程

本技术涉及数据处理，特别涉及一种自适应检查数据的比特位宽的装置、方法及设备。背景技术：1、npu（natural processing unit，神经网络处理器）处理数据（即输入数据或输出数据）的维度......

2024-07-31 92

#自适应#位宽#装置