浮点数为什么不精确

参考原文:码农翻身 其实这句话本身就不精确, 相对精确一点的说法是: 我们码农在程序里写的10进制小数,计算机内部无法用二进制的小数来精确的表达。 什么是二进制的小数? 就是形如 101.11 数字,注意,这是二进制的,数字只能是0和1。 101.11 就等于 1 * 2^2 +0 2^1 + 12^0 + 12^-1 + 12^-2 = 4+0+1+1/2+1/4 = 5.75 从图中可以看到,
相关文章
相关标签/搜索