单精度,双精度和精度(转载)

浮点数是计算机上最经常使用的数据类型之一,有些语言甚至数值只有浮点型(Perl,Lua同窗别跑,说的就是你)。less 经常使用的浮点数有双精度和单精度。除此以外,还有一种叫半精度的东东。分布式 双精度64位,单精度32位,半精度天然是16位了。学习 半精度是英伟达在2002年搞出来的,双精度和单精度是为了计算,而半精度更可能是为了下降数据传输和存储成本。.net 不少场景对于精度要求也没那么高,
相关文章
相关标签/搜索