《数值分析(原书第2版)》—— 1.3 精度的极限

本节书摘来自华章出版社《数值分析(原书第2版)》一 书中的第1章,第1.3节,作者:(美)Timothy Sauer,更多章节内容可以访问云栖社区“华章计算机”公众号查看。 1.3 精度的极限 数值分析的一个目标是在给定的精度级别中估计结果.使用双精度意味着我们使用52位精度(大约16位十进制数字)来保存和操作数字. 得到的答案里总能有16位正确的有效数字吗?在第0章中已经表明,计算二次方程的朴素
相关文章
相关标签/搜索