笔试面试 浮点数定点化的量化误差问题

本文参考公众号“数字ICer”的文章推送 问题来自大疆的笔试题： 解析：无论小数有多少位，它的量化精度都是以5结尾的，因此量化12.918肯定不能做到真正的无损量化。根据数学上的概念，只要误差小于精度的一半，就可以认为是无损的。 对于本题： 整数部分是12，需要四位量化 如果量化位宽12位，则小数部分8位，0.918*2^8=235.008，舍去小数位得到235；235再反量化得到235/256=

>>阅读原文<<