Nvidia GPU的浮点计算能力

转自:https://weibo.com/ttarticle/p/show?id=2309403987017473113077 其实说到浮点计算能力,首先得区分不同精度的浮点数,虽然Linpack测试里只关心双精度的浮点计算能力,但在其他领域,有时候反而会更加关注单精度甚至是半精度的浮点计算能力。 半精度、单精度、双精度这些概念是在IEEE 754标准里定义的,浮点计数是利用浮动小数点的方式使用不
相关文章
相关标签/搜索