浮点数为何不精确

参考原文:码农翻身 其实这句话自己就不精确, 相对精确一点的说法是: 咱们码农在程序里写的10进制小数,计算机内部没法用二进制的小数来精确的表达。web 什么是二进制的小数? 就是形如 101.11 数字,注意,这是二进制的,数字只能是0和1。svg 101.11 就等于 1 * 2^2 +0 2^1 + 12^0 + 12^-1 + 12^-2 = 4+0+1+1/2+1/4 = 5.75 从图
相关文章
相关标签/搜索