Nvidia GPU的浮点计算能力(FP64/FP32/FP16)

转自:http://weibo.com/ttarticle/p/show?id=2309403987017473113077服务器 ​​其实说到浮点计算能力,首先得区分不一样精度的浮点数,虽然Linpack测试里只关心双精度的浮点计算能力,但在其余领域,有时候反而会更加关注单精度甚至是半精度的浮点计算能力。架构 半精度、单精度、双精度这些概念是在IEEE 754标准里定义的,浮点计数是利用浮动小数
相关文章
相关标签/搜索