0.3-0.7+0.4等于多少?浮点数间慎用比较

简介: 0.3-0.7+0.4等于多少?浮点数间慎用比较

浮点数间慎用比较

在R语言中,输入一个简单的计算题:0.3-0.7+0.4,得到的结果是5.551115e-17,而随机叫一个小学二年级的同学来口算,这个题答案等于0,但是R语言不这么认为!

> 0.3-0.7+0.4
[1] 5.551115e-17
> 0.3-0.7+0.4 == 0
[1] FALSE

以上就是一个典型的浮点数计算精确性不足案例,上述情况出现的原因是浮点数计算的精确性问题。

在计算机中,浮点数的存储和计算都有一定的误差,因此在进行浮点数计算时,可能会出现一些意外的结果。

错误原因

在本例中,0.3、0.7 和 0.4 都是浮点数,它们在计算机中的存储和精度都有一定误差。

当计算 0.3-0.7+0.4 时,由于浮点数计算的误差,结果并不是精确的 0,而是一个非常接近 0 的数,即 5.551115e-17。

这种浮点数计算误差可能会导致比较操作的结果不准确。在本例中,由于 5.551115e-17 不等于 0,因此比较操作的结果为 FALSE。

这种误差可能会对程序的正确性产生影响,因此应该尽量避免使用浮点数进行比较

END

© 素材来源于网络,侵权请联系后台删除

笔记合集,点击直达

相关文章
|
7月前
|
测试技术
【日常记录】——对BigDecimal除法运算时遇到的Bug
【日常记录】——对BigDecimal除法运算时遇到的Bug
|
7月前
给定 n 个整数,求里面出现次数最多的数,如果有多个重复出现的数,求值最大的那个 给定n个整数,求里面出现次数最多的数,如果有多个重复出现的数,求出值最大的一
给定 n 个整数,求里面出现次数最多的数,如果有多个重复出现的数,求值最大的那个 给定n个整数,求里面出现次数最多的数,如果有多个重复出现的数,求出值最大的一
|
4月前
|
C语言
用栈实现将一个十进制数值转换成八进制数值。即用该十进制数值除以8,并保留其余数;重复此操作,直到该十进制数值为0为止。最后将所有的余数反向输出就是所对应的八进制数值
这篇文章展示了如何使用栈(包括顺序栈和链栈)实现将十进制数值转换成八进制数值的方法,通过C语言编程演示了两种栈的实现方式和使用场景。
用栈实现将一个十进制数值转换成八进制数值。即用该十进制数值除以8,并保留其余数;重复此操作,直到该十进制数值为0为止。最后将所有的余数反向输出就是所对应的八进制数值
|
7月前
求两个整数的较大值
两幅图片展示,无文字描述。第一张图链接源为:[结果](https://so.csdn.net/so/search?q=%E7%BB%93%E6%9E%9C&spm=1001.2101.3001.7020)。
38 1
求两个整数的较大值
|
7月前
|
Java
如何判断科学计数法3.14E+308 在区间3.14E+38和 3.14E+1308内
对于非常大的科学计数法表示的数值,直接将其转换为 `double` 类型可能会导致溢出。Java 中的 `double` 类型表示的最大值约为 `1.7976931348623157E+308`,因此 `3.14E+308` 已经超出了其表示范围。如果需要处理超出 `double` 类型表示范围的数值,可以使用 `BigDecimal` 类来处理。 以下是一个示例,展示如何使用 `BigDecimal` 类来比较科学计数法表示的数值是否在指定区间内: ```java import java.math.BigDecimal; public class ScientificNotationC
|
SQL
解决SQLServerException: 转换 varchar 值 '12345678901' 时溢出了整数列的bug
解决SQLServerException: 转换 varchar 值 '12345678901' 时溢出了整数列的bug
338 0
不用任何比较运算符找出两个整数中的较大的值
不用任何比较运算符找出两个整数中的较大的值
83 0
|
SQL Oracle 关系型数据库
如何解决 Oracle数据库 俩个整数相除结果为0 的问题
如何解决 Oracle数据库 俩个整数相除结果为0 的问题
183 0
|
C语言
已知一个整数,如何判断这个整数是无符号的?
已知一个整数,如何判断这个整数是无符号的?
94 0
2.2.4加减运算和溢出判断
2.2.4加减运算和溢出判断