浮点数间慎用比较

在R语言中，输入一个简单的计算题：0.3-0.7+0.4，得到的结果是5.551115e-17，而随机叫一个小学二年级的同学来口算，这个题答案等于0，但是R语言不这么认为！

> 0.3-0.7+0.4
[1] 5.551115e-17
> 0.3-0.7+0.4 == 0
[1] FALSE

以上就是一个典型的浮点数计算精确性不足案例，上述情况出现的原因是浮点数计算的精确性问题。

在计算机中，浮点数的存储和计算都有一定的误差，因此在进行浮点数计算时，可能会出现一些意外的结果。

错误原因

在本例中，0.3、0.7 和 0.4 都是浮点数，它们在计算机中的存储和精度都有一定误差。

当计算 0.3-0.7+0.4 时，由于浮点数计算的误差，结果并不是精确的 0，而是一个非常接近 0 的数，即 5.551115e-17。

这种浮点数计算误差可能会导致比较操作的结果不准确。在本例中，由于 5.551115e-17 不等于 0，因此比较操作的结果为 FALSE。

这种误差可能会对程序的正确性产生影响，因此应该尽量避免使用浮点数进行比较。

END

© 素材来源于网络，侵权请联系后台删除

笔记合集，点击直达