.Net 避免 float 转 double 丢失精度的办法

第一部分:float 转 double 丢失精度

类型 精度 位宽 C# 后缀 能够表示的数值范围 .Net 类名
float 7 位 32bit F -3.4 × 10^38 ~ +3.4 × 10^38 System.Single
double 15~16 位 64bit D ±5.0 × 10^−324 ~ ±1.7 × 10^308 System.Double
decimal 28~29 位 128bit M (-7.9 x 10^28 ~ +7.9 x 10^28) / (10^0 ~ 28) System.Decimal

3 种类型,相互间的转换有 6 种:测试

转换 C# 代码 精度 结果
float 转 double (double) 10.45F 丢失 10.449999809265137D
float 转 decimal (decimal) 10.45F 正常 10.45M
double 转 float (float) 10.45D 正常 10.45F
double 转 decimal (decimal) 10.45D 正常 10.45M
decimal 转 float (float) 10.45M 正常 10.45F
decimal 转 double (double) 10.45M 正常 10.45D

能够看到只有 float 转 double 才会产生丢失精度的问题,可是 .Net 有个很神奇的表现是,若是把从 float 转 double 丢失精度的结果再转回 float,精度会被补回来,甚至中间用 decimal 多转了一次也会补回来:this

C# 代码 精度 结果
(float) 10.449999809265137D 修正 10.45F
(float) (decimal) 10.449999809265137D 修正 10.45F

因此若是在 float double → float 或者 float  double → decimal → float 的过程当中,若是中间过程只是临时状态(好比存储,传输)并不参与实际计算的话,那么并不须要手动修正精度。spa

若是对于转换后的精度有要求(好比显示,计算,转换为更高精度),那么能够手动对转换进行精度修正,解决方法有两个:code

1. 用 decimal 搭桥:ci

public class SingleToDoubleHelper
{
    public static double SingleToDouble(this float numberF)
        => (double)(decimal)numberF;
}

2. 转字符串后解析:字符串

public class SingleToDoubleHelper
{
    public static double SingleToDouble(this float numberF)
        => double.Parse(numberF.ToString());
}

 

第二部分:多位小数的浮点数互相转换时丢失精度

第一部分测试采用的数值比较正常,可是在带有一大串小数的浮点数互转的时候也会丢失精度:get

转换 C# 代码 精度 结果 / 指望结果
float 转 double (double) 10.4499941F 丢失 10.449994087219238D
10.4499941D
float 转 decimal (decimal) 10.4499941F 丢失 10.44999M
10.4499941M
double 转 float (float) 10.449999809265137D 修正 10.45F
-
double 转 decimal (decimal) 10.449999809265137D 丢失 10.4499998092651M
10.449999809265137M
decimal 转 float (float) 10.449999809265137448940651631M 修正 10.45F
-
decimal 转 double (double) 10.449999809265137448940651631M 丢失 10.449999809265139D
-

能够看到具备多位小数的浮点数在互转的时候多会发生精度丢失的问题。it

在 double 和 decimal 转 float 的时候,结果都被给予了修正,至于这个修正是否是指望的结果要看具体应用场景。table

而由低精度浮点数向高精度浮点数转换的时候,指望结果应该是能够不丢失精度的(高精度浮点数能够准确表示低精度浮点数描述的数值),可是结果倒是发生了精度丢失。对于这种状况若是但愿转换后保留完整精度的话,就只能采用 parse 字符串的方式来处理了,由于即便使用 decimal 搭桥也会丢失精度。class

 

因而可知,用 decimal 搭桥完成 float 转 double 的方法仅适用于小数位数很少的状况,其中一个很常见的应用场景就是用 float 表示金额,可是由于某种需求要转换到 double 进行计算或显示。

相关文章
相关标签/搜索