浮点数的舍入处理

前言: 计算机在表示一个小数时,一般假定规格化前的数为 P+g 位,P时有效位字长,g是有效位字长之后的的代码长度. 比如说 0.xxxxx|010100 在这里,红的表示P, 绿的表示g, 1. 恒舍法 顾名思义,就是把绿的全部抛弃. 这样处理好处很显然,简单嘛,不管三七二十一,扔了就完了.但是问题也很突出,就是精度有问题. 这种方法误差是最大的,在精度有那么一丢丢要求的地发都会被嫌弃. 2.恒

>>阅读原文<<