浮点数内存存储格式

对于浮点数的存储格式一直很头疼 浮点数大部分都是IEEE标准存储 这个标准根本不能精确表示浮点数。。。只知道近似舍入。。。 来看  0.1 0.1根本不能用有限的二进制表示 先说十进制小数如何转换为二进制, 方法是乘2 取整,用余下的小数继续乘2取整 0.1X2 = 0.2   整数为0    取0 0.2X2=0.4    整数为0 取0 0.4x2=0.8  整数为0 取0 0.8x2=1.6
相关文章
相关标签/搜索