定点数的几个知识点

数的定标 概念 经过设定小数点在数据的不一样位置,就能够表示不一样大小和精度的小数。web Q和S表示法 以16位数据为例,Q和S表示法的存储格式为: Qx:x位用来表示小数部分,(15-x)位用来表示整数。 Sx.y:其中x+y=15,x位表示整数,y位表示小数。 精度:1/2^x(以Qx表示法为例说明) 括号里的内容为表示范围的小数部分怎么计算来的svg 下表为定点表示法可表示的十进制数范围
相关文章
相关标签/搜索