总结:计算机组成与设计(硬件/软件接口)-第三章 计算机的算数运算

第三章 计算机的算数运算     计算机算术和用纸和笔手算的算术不同的地方是受到有限精度的约束。这个限制可能会因为计算中数大于或小于预先的设定而导致无效操作。这种异常称为 “上溢” 或 “下溢” ,可能导致异常、中断或类似于意外的子程序调用。     浮点算术因为是对实际的数字的近似而增加了挑战性,而且要小心确保所选的计算机数能最接近地表示实际数字。不精确和有限的表达带来的挑战是数值分析领域灵感的
相关文章
相关标签/搜索