浮点数比较大小的问题

浮点数比较大小,因为精度问题,因此直接比较有时可能会出错。函数 单精度数7位有效数字。 (float) 双精度数16位有效数字。(double)spa 单精度数的尾数用23位存储,加上默认的小数点前的1位1,2^(23+1) = 16777216。由于 10^7 < 16777216 < 10^8,因此说单精度浮点数的有效位数是7位。 双精度的尾数用52位存储,2^(52+1) = 9007199
相关文章
相关标签/搜索