浮点数在内存中的存储方式

         浮点数可以简单理解带小数点的数,像10.0也为浮点数。C/C++中使用的浮点数类型有float 和double (也分别称之为 单精度和双精度浮点数),其中float占4byte,32bit;double占8byte。在AI计算领域,又有FP32、FP16和BF16的数据类型(也称之为 单精度/半精度/混合精度 浮点数),FP32类型同C/C++中的float存储方式一样;从字面
相关文章
相关标签/搜索