浮点数精度丢失问题

原则:计算机内部所有的运算都是二进制运算,所以任意数据会首先被转化为二进制存储。 在将10进制数转化为2进制数的时候,按照: 整数除二取余,小数乘二取整 的原则进行转换。 但是,大多数情况下,小数部分不能全部被消除,如: 0.152 = 0.3 0.32 = 0.6 0.62 = 1.2 1.22 = 2.4 2.42 = 4.8 4.82 = 9.6 9.6*2 = 19.2 …尾数循环。 按照
相关文章
相关标签/搜索