EasyExcel读入数字类型数据时出现小数位增长现象

本文涉及的产品
云解析 DNS,旗舰版 1个月
全局流量管理 GTM,标准版 1个月
公共DNS(含HTTPDNS解析),每月1000万次HTTP解析
简介: EasyExcel读入数字类型数据时出现小数位增长现象

背景

最近使用easyexcel时碰到一个这样的问题,读取excel时出现了小数点精度问题。例如,0.137这个值,使用easyexcel解析后得到的BigDecimal对象就变成了0.13700000000000001,5.1,变成5.0999999999999996。

原excel中一条数据,见下图

商品名称 金额(元)
Apple iPhone 14 Plus (A2888) 512GB 午夜色  9699.1

通过接口导入,打印出数据格式

解析到一条数据:{"goodsName":"Apple iPhone 14 Plus (A2888) 512GB 午夜色","price":9699.0999999999999996}

我尝试去查看了excel解压后的文件,发现这条数据在xml里存储的值就是9699.0999999999999996

当我在把实体类里把BigDecimal的字段修改成String类型后,读出来的数据就是期望的9699.1。

原因

查看easyexcel源码,其实easyexcel解析excel单元格的时候,会根据单元格格式选择不同的converter。在本例中,由于是数字类型单元格解析成BigDecimal类型字段,调用的就是BigDecimalNumberConverter 。这个Converter是这样的:

public class BigDecimalNumberConverter implements Converter<BigDecimal> {
    public BigDecimalNumberConverter() {
    }
    public Class supportJavaTypeKey() {
        return BigDecimal.class;
    }
    public CellDataTypeEnum supportExcelTypeKey() {
        return CellDataTypeEnum.NUMBER;
    }
    public BigDecimal convertToJavaData(CellData cellData, ExcelContentProperty contentProperty, GlobalConfiguration globalConfiguration) {
        return cellData.getNumberValue();
    }
    public CellData convertToExcelData(BigDecimal value, ExcelContentProperty contentProperty, GlobalConfiguration globalConfiguration) {
        return new CellData(value);
    }
}

supportJavaTypeKey方法指定该Converter转换的目标类型是BigDecimal,而easyexcel在讲excel单元格内容转换为BigDecimal时调用的就是convertToJavaData方法。

可以看到该方法内容很简单,就是取了CellData的NumberValue,这是个BigDecimal的对象,debug时会发现,执行到这里时取出来的就已经是9699.0999999999999996这个值了。

这没有问题,因为excel文件里存储的本来就是这个值,但是为什么转换成String类型就是9699.1呢?

数字类型单元格转换成String类型调用的是另外一个converter:StringNumberConverter,可以看到这个类的convertToJavaData就更复杂一些:

public class StringNumberConverter implements Converter<String> {
    public StringNumberConverter() {
    }
    public Class supportJavaTypeKey() {
        return String.class;
    }
    public CellDataTypeEnum supportExcelTypeKey() {
        return CellDataTypeEnum.NUMBER;
    }
    public String convertToJavaData(CellData cellData, ExcelContentProperty contentProperty, GlobalConfiguration globalConfiguration) {
        if (contentProperty != null && contentProperty.getDateTimeFormatProperty() != null) {
            return DateUtils.format(DateUtil.getJavaDate(cellData.getNumberValue().doubleValue(), contentProperty.getDateTimeFormatProperty().getUse1904windowing(), (TimeZone)null), contentProperty.getDateTimeFormatProperty().getFormat());
        } else if (contentProperty != null && contentProperty.getNumberFormatProperty() != null) {
            return NumberUtils.format(cellData.getNumberValue(), contentProperty);
        } else if (cellData.getDataFormat() != null) {
            return DateUtil.isADateFormat(cellData.getDataFormat(), cellData.getDataFormatString()) ? DateUtils.format(DateUtil.getJavaDate(cellData.getNumberValue().doubleValue(), globalConfiguration.getUse1904windowing(), (TimeZone)null)) : NumberUtils.format(cellData.getNumberValue(), contentProperty);
        } else {
            return NumberUtils.format(cellData.getNumberValue(), contentProperty);
        }
    }
    public CellData convertToExcelData(String value, ExcelContentProperty contentProperty, GlobalConfiguration globalConfiguration) {
        return new CellData(new BigDecimal(value));
    }
}

本例中的单元格格式为常规,所以调用的是NumberUtils的format方法,最后是通过ExcelGeneralNumberFormat类的format方法进行的处理。

在这个方法中,我们发现它将excel里解析出的值限制为10位小数,并且做了四舍五入的处理:

// Non-integers of non-scientific magnitude are formatted as "up to 11
// numeric characters, with the decimal point counting as a numeric
// character". We know there is a decimal point, so limit to 10 digits.
// https://support.microsoft.com/en-us/kb/65903
final double rounded = new BigDecimal(value).round(TO_10_SF).doubleValue();
return decimalFormat.format(rounded, toAppendTo, pos);

于是9699.0999999999999996经过处理后就变成了9699.1。

结尾

但是很多时候我们不想修改实体类中的字段类型,那么我们还可以通过修改excel的格式,但是注意excel这里有个坑。

在excel中明明将这一列设置成了文本格式,但是还会出现有些行导入成功,有些行仍然会出现上述情况。但是当我讲每个CELL单元格,依次设置为文本类型后又都可以了。

但是在要导入的excel里面只要点一下这个单元格,会发现左上角会出现一个小箭头,再导入就又正常了。

 

本篇文章如有帮助到您,请给「翎野君」点个赞,感谢您的支持。

目录
相关文章
|
1月前
|
存储 C++
看完就等于拿捏浮点数在内存中的储存了
看完就等于拿捏浮点数在内存中的储存了
43 2
看完就等于拿捏浮点数在内存中的储存了
|
6月前
求两个整数的较大值
两幅图片展示,无文字描述。第一张图链接源为:[结果](https://so.csdn.net/so/search?q=%E7%BB%93%E6%9E%9C&spm=1001.2101.3001.7020)。
35 1
求两个整数的较大值
|
机器人 Java 开发工具
生成指定长度的随机数字,用对方法精准提效数10倍!
生成指定长度的随机数字这一函数功能可能在以下情况下被使用:
|
前端开发 Java
项目采坑日志——Java浮点类型数据进行加减运算出现精度丢失问题
项目采坑日志——Java浮点类型数据进行加减运算出现精度丢失问题
145 0
|
传感器 芯片
模拟量与数字量区别
模拟量与数字量区别
191 0
|
算法 Python
一日一技:如何统计一个数字的二进制值里面有多少个1
一日一技:如何统计一个数字的二进制值里面有多少个1
234 0
|
存储 Java
java 将小数拆分为两部分+浮点型精度丢失问题
java 将小数拆分为两部分+浮点型精度丢失问题
168 0
|
C++ iOS开发
【C++之标准类型数据的格式输出1】输入一批数值,要求保留3位小数,且上下行小数点对齐
【C++之标准类型数据的格式输出1】输入一批数值,要求保留3位小数,且上下行小数点对齐
|
机器学习/深度学习 算法 Java
四种方式统计二进制表示中 1 的个数
四种方式统计二进制表示中 1 的个数
获取表结构信息(字段名,类型,长度,精度,小数位数,主键,自动增长)
原文:获取表结构信息(字段名,类型,长度,精度,小数位数,主键,自动增长) 获取表结构的一些简要信息,可以生成自己需要的字典,简单又实用! 以数据表PP_MO为例: SELECT OBJECT_NAME(A.
1373 0