《程序是怎样跑起来的》——第三章:计算机进行小数运算时出错的原因

我们都知道,二进制转化成十进制的方法: 将各数位数值和位权相乘 十进制转二进制的方法: 十进制小数部分转二进制的方法: 而有些十进制的小数无法转化成二进制数: 如十进制0.1 转化成 二进制:0.000111001100(1100)循环 就像无法用10进制表示1/3一样 这就是小数运算出错的根本原因 浮点数 浮点数的表示形式:± m * n^e ± : 符号位 m ; 尾数 n :基数 (对计算机
相关文章
相关标签/搜索