第四章 数值计算

1.上溢和下溢        一种极具毁灭性的舍入误差是 下溢 ( underflflow )。当接近零的数被四舍五入为零时发生下溢。 另一个极具破坏力的数值错误形式是 上溢 ( overflflow )。当大量级的数被近似为 ∞ 或 −∞ 时发生上溢。进一步的运算通常会导致这些无限值变为非数字。        必须对上溢和下溢进行数值稳定的一个例子是 softmax 函数 (softmax fu
相关文章
相关标签/搜索