python之decimal模块

在python中小数相加可能会计算出结果不对,如下,为什么呢?,那就是由于科学计算精度问题 我们在python中如果需要处理这个问题的话就需要用到decimal模块了 但这个地方有个坑,那就是Decimal(),括号里面必须是字符串,假如我们需要通过Decimal计算的话就需要将数值转换成字符串或者直接加上引号 还可以通过decimal里面的getcontext().prec 设定有效数字,如下
相关文章
相关标签/搜索