一次印象深刻的float和double的精度Bug处理

平时认为double的精度高一些,float的精度低一些,仅此而已,如果有精度不够的问题就再更换数据类型就好了,不会是什么大问题,现在就看下下图: 滤波结果示意图 该图为对一次数据使用22-80hz滤波器后得到的结果,其显示了一个发散的滤波结果。我从各个方面检查问题都无果,包括filter的实现代码,滤波器的设计甚至于各个变量地址的检查,经过了大半天仍然没有头绪。直至发现了滤波器参数是使用floa
相关文章
相关标签/搜索