double类型精度损失问题

在十进制中小数有些是没法完整用二进制表示的。它们只能用有限位来表示，从而在存储时可能就会有偏差。十进制的小数采用乘2取整法进行计算，去掉整数部分后，剩下的小数继续乘以2,直到小数部分全为0.c++ 有的小数可能取不到零就会一直循环spa 0.9*2=1.8…...取整1code 0.8*2=1.6…...取整1it 0.6*2=1.2…...取整1class 0.2*2=0.4.…..取整0软件

>>阅读原文<<