关于深度学习中的数据结构INT\FLOAT\FP(为使用FP数据类型调用TensorCore的知识储备)

首先我们需要知道何为bits和bytes? bits:名为位数 bytes:为字节 简单的数就是MB和G的关系!那么8bits=1bytes,下面是各个单位的相互转化! *引用自https://blog.csdn.net/m0_43432638/article/details/89973862 INT - 也就是整数,比如INT8就是8bit整数,取值范围是-128~127也就是256(2^8)个
相关文章
相关标签/搜索