处理器的计算能力如何计算

咱们经常使用双精度浮点运算能力衡量一个处理器的科学计算的能力,就是处理64bit小数点浮动数据的能力 支持AVX2的处理器的单指令的长度是256bit,每一个intel核心假设包含2个FMA,一个FMA一个时钟周期能够进行2次乘或者加的运算,那么这个处理器在1个核心1个时钟周期能够执行256bit*2FMA*2M/A/64=16次浮点运算,也称为16FLOPs,就是Floating Point O
相关文章
相关标签/搜索