1.6.9浮点错误

关于在计算机上处理媒介的问题,我们应该了解以下内容。 在比较浮点数时,由于浮点不精确,必须小心。 我们预计相同的两个浮点数可能略有不同。 例如,在数学上,我们希望归一化矢量的长度为1,但在计算机程序中,长度将只是大约1.此外,对于任何实数p,数学上1p = 1,但是当我们只 有1的数值近似,我们看到提升到p次幂的近似值增加了误差; 因此,数值误差也会累积。 以下简短的程序说明了这些想法: #inc
相关文章
相关标签/搜索