浮点运算为什么不准?有人为0.30000000000000004建了个网站

浮点运算一直非常玄学。 任何一个学过小数点运算的拥有小学数学水平的人,都应该知道 1.0-0.9=0.1。然而当你把这个问题抛给可以计算出圆周率小数点后上百位、拥有超强算力的计算机的时候,结果总是非常迷。 你会发现,使用double或者float得出的计算结果,总是跟我们的预期有一点点差距,这就使得浮点运算容易让人觉得“不精确”。 实际上,因为我们人类理解的数字是十进制,而计算机理解的数字是二进制
相关文章
相关标签/搜索