计算机中的浮点数

写这篇blog,是因为在上工程硕士数学时候,又开始讲到了浮点数的储存,运算和精度的问题。这个问题已经见了好多次了,从微机原理的课到计算机视觉处理矩阵时候的conditioning,到这次。但感觉一直都没有理清楚。所以这次尝试梳理一下。 数在计算机中的存储 一般主要分为两种形式,这里以8位的存储进行解释: 定点数 定点数,很直观地理解就是小数点是固定的,如 b 0 b 1 . b 2 b 3 b 4
相关文章
相关标签/搜索