【基础】浮点型运算结果不精确的原因

解析: 单精度有7~8位小数,双精度有15位小数 二进制存储,单精度只有16个二进制位,双精度有64个二进制位,二进制位里面包含正负号,整数部分,小数点,小数部分 正 负号和小数点占用二进制位数是定值。 将十进制浮点数转换为二进制浮点数时,小数的二制有时也是不可能精确的,就如同十进制不能准确表示1/3,二进制也无法准确表示1/10,而double类型存储尾数部分最多只能存储52位,于是,计算机在存
相关文章
相关标签/搜索