一道简单的笔试题_浮点数无损定点化

浮点数无损定点化 量化为定点数格式:m位定点数,n个小数位,无符号位,那么n称作量化系数 对于0111表示的定点数: 如果设定小数点位于最后一位,即0111.  则其表示7,最大精度1; 如果设定小数点位于后一位的,即011.1 则其表示3.5,最大精度0.5; 如果设定小数点位于后二位的,即01.11 则其表示1.75,最大精度0.25; 由上可得: 小数位数越多,表示的精度越高。若小数点后有n
相关文章
相关标签/搜索