解决java poi海量数据导出内存溢出问题

简介: 解决java poi海量数据导出导致内存溢出的问题

找了很多天的解决方法,一直被分页查询绕进去了,其实数据都能查出来的,真正卡的地方是ExcelExportUtil类下调错了方法。



最开始调用的方法是(标记的地方):  workbook = new HSSFWorkbook();和 workbook = new XSSFWorkbook();

这两个方法就是导出Excel的最关键的方法,接下来我来说说这两个方法作用:

1.HSSFWorkbook:是操作Excel2003以前(包括2003)的版本,扩展名是.xls;

2.XSSFWorkbook:是操作Excel2007的版本,扩展名是.xlsx;

对于不同版本的EXCEL文档要使用不同的工具类,如果使用错了,会提示如下错误信息。

org.apache.poi.openxml4j.exceptions.InvalidOperationException

org.apache.poi.poifs.filesystem.OfficeXmlFileException

当数据量超出65536条后,在使用HSSFWorkbook或XSSFWorkbook,程序会报OutOfMemoryError:Javaheap space;内存溢出错误。

而我们的数据量达到了9W条数据,用这两个方法肯定是报内存溢出的错误的。

最终我找到的解决方法是:从POI 3.8版本开始,提供了一种基于XSSF的低内存占用的API----SXSSFWorkbook。

3.SXSSFWorkbook-来至官方的解释:实现“BigGridDemo”策略的流式XSSFWorkbook版本。这允许写入非常大的文件而不会耗尽内存,因为任何时候只有可配置的行部分被保存在内存中。您可以提供用作书面数据基础的模板工作簿。有关详细信息,请参见https://poi.apache.org/spreadsheet/how-to.html#sxssf。请注意,仍然可能会消耗大量内存,这些内存基于您正在使用的功能,例如合并区域,注释......仍然只存储在内存中,因此如果广泛使用,可能需要大量内存。SXSSFWorkbook默认使用内联字符串而不是共享字符串表。这非常有效,因为没有文档内容需要保存在内存中,但也被称为制作与某些客户不兼容的文档。在启用共享字符串的情况下,文档中的所有唯一字符串必须保存在内存中。根据您的文档内容,这可能比共享字符串被禁用时使用更多的资源。在决定是否启用共享字符串之前,请仔细检查您的内存预算和兼容性需求。

而在poi架包中提供的方法用的是:


当数据量超过1000条时就会调用SXSSFWorkbook方法,从而解决了海量的数据导出会发生内存溢出的问题。

[java]  view plain  copy
  1. public void exportContacts(final PortalUserPage page, final HttpServletRequest request,  
  2.            final HttpServletResponse response) throws Exception {  
  3.   
  4.        final String name = "通讯录列表";  
  5.   
  6.        // 去掉分页  
  7.        page.setPage(1);  
  8.        page.setRows(Integer.MAX_VALUE);  
  9.        final List<CmssPortalUser> dataList = (List<CmssPortalUser>) this.queryPortalUserListWithGroup(page);  
  10.        final List<PortalUserExcelDto> userList = new ArrayList<>();  
  11.        for (final CmssPortalUser user : dataList) {  
  12.            final PortalUserExcelDto userDto = new PortalUserExcelDto();  
  13.            userDto.setIndex(user.getIndex() != null ? user.getIndex().toString() : "0");  
  14.            userDto.setRealName(user.getRealName());  
  15.            userDto.setCompany(user.getCompany());  
  16.            userDto.setCompanyBranch(user.getCompanyBranch());  
  17.            userDto.setDepartment(user.getDepartment());  
  18.            userDto.setTitle(user.getTitle());  
  19.            userDto.setPhone(user.getPhone());  
  20.            userDto.setLoginName(user.getLoginName());  
  21.            userDto.setProducts(user.getProducts());  
  22.            userDto.setEmail(user.getEmail());  
  23.            userDto.setGroup(user.getGroup());  
  24.            if (user.getOpenTime() != null) {  
  25.                // 开通时间日期格式化  
  26.                final SimpleDateFormat format = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");  
  27.                userDto.setOpenTime(format.format(user.getOpenTime()));  
  28.            }  
  29.            // 判断全局预览  
  30.            // 根据创建者ID查询该用户是否可以浏览全局  
  31.            user.setIfGlobelView(shareJedis.ifGlobelView(user.getId().longValue()) ? 1 : 0);  
  32.            if (user.getIfGlobelView() != null) {  
  33.                if (user.getIfGlobelView() == Constants.CURRENCY.ZERO) {  
  34.                    userDto.setIfGlobelView("否");  
  35.                }  
  36.                if (user.getIfGlobelView() == Constants.CURRENCY.ONE) {  
  37.                    userDto.setIfGlobelView("是");  
  38.                }  
  39.            }  
  40.            // 判断状态  
  41.            if (StringUtils.isNotBlank(user.getStatus())) {  
  42.                if (Constants.CONTACTS_STATUS.UNAVAILABILITY.equals(user.getStatus())) {  
  43.                    userDto.setStatus("停用");  
  44.                }  
  45.                if (Constants.CONTACTS_STATUS.AVAILABILITY.equals(user.getStatus())) {  
  46.                    userDto.setStatus("启用");  
  47.                }  
  48.            }  
  49.            // VIP类别  
  50.            userDto.setVipCategory(user.getVipCategoryName() != null ? user.getVipCategoryName() : null);  
  51.            // Vip级别  
  52.            userDto.setVipLevel(user.getVipLevelName() != null ? user.getVipLevelName() : null);  
  53.            // 判断短信通知  
  54.            if (user.getIsSendSms() != null) {  
  55.                if (Constants.UNIVERSAL_CONSTANT.ZERO.equals(user.getIsSendSms())) {  
  56.                    userDto.setIsSendSms("否");  
  57.                }  
  58.                if (Constants.UNIVERSAL_CONSTANT.ONE.equals(user.getIsSendSms())) {  
  59.                    userDto.setIsSendSms("是");  
  60.                }  
  61.            }  
  62.            userList.add(userDto);  
  63.        }  
  64.   
  65.        final ExportParams params = new ExportParams(name, name, ExcelType.XSSF);  
  66.        final Workbook workbook = ExcelExportUtil.exportExcel(params, PortalUserExcelDto.class, userList);  
  67.   
  68.        try {  
  69.            final String agent = request.getHeader("User-Agent").toLowerCase();  
  70.            // 开始下载文件  
  71.            final SimpleDateFormat format = new SimpleDateFormat("yyyy-MM-dd");  
  72.            String filename = format.format(new Date().getTime()) + "-" + name + ".xlsx";  
  73.            if (!StringUtils.isEmpty(agent) && agent.contains("msie") || agent.contains("like gecko")  
  74.                    || (agent.indexOf("rv") > 0 && agent.indexOf("firefox") == -1)) {  
  75.                filename = URLEncoder.encode(filename, "UTF-8");  
  76.            } else {  
  77.                filename = new String(filename.getBytes("UTF-8"), "ISO8859-1");  
  78.            }  
  79.            response.setContentType("application/octet-stream");  
  80.   
  81.            response.setHeader("Content-Disposition""attachment;filename=".concat(filename));  
  82.   
  83.            final OutputStream out = response.getOutputStream();  
  84.            workbook.write(out);  
  85.            out.flush();  
  86.            out.close();  
  87.        } catch (final Exception e) {  
  88.            e.printStackTrace();  
  89.            log.error(e.getMessage());  
  90.        }  
  91.    }  

这部分代码是我所写的批量导出海量数据的部分代码,希望可以帮助和我遇到一样错误的人。
相关文章
|
2月前
|
存储 缓存 安全
Java内存模型深度解析:从理论到实践####
【10月更文挑战第21天】 本文深入探讨了Java内存模型(JMM)的核心概念与底层机制,通过剖析其设计原理、内存可见性问题及其解决方案,结合具体代码示例,帮助读者构建对JMM的全面理解。不同于传统的摘要概述,我们将直接以故事化手法引入,让读者在轻松的情境中领略JMM的精髓。 ####
49 6
|
1月前
|
安全 Java 程序员
深入理解Java内存模型与并发编程####
本文旨在探讨Java内存模型(JMM)的复杂性及其对并发编程的影响,不同于传统的摘要形式,本文将以一个实际案例为引子,逐步揭示JMM的核心概念,包括原子性、可见性、有序性,以及这些特性在多线程环境下的具体表现。通过对比分析不同并发工具类的应用,如synchronized、volatile关键字、Lock接口及其实现等,本文将展示如何在实践中有效利用JMM来设计高效且安全的并发程序。最后,还将简要介绍Java 8及更高版本中引入的新特性,如StampedLock,以及它们如何进一步优化多线程编程模型。 ####
37 0
|
1月前
|
存储 监控 算法
Java内存管理深度剖析:从垃圾收集到内存泄漏的全面指南####
本文深入探讨了Java虚拟机(JVM)中的内存管理机制,特别是垃圾收集(GC)的工作原理及其调优策略。不同于传统的摘要概述,本文将通过实际案例分析,揭示内存泄漏的根源与预防措施,为开发者提供实战中的优化建议,旨在帮助读者构建高效、稳定的Java应用。 ####
47 8
|
1月前
|
存储 监控 算法
深入探索Java虚拟机(JVM)的内存管理机制
本文旨在为读者提供对Java虚拟机(JVM)内存管理机制的深入理解。通过详细解析JVM的内存结构、垃圾回收算法以及性能优化策略,本文不仅揭示了Java程序高效运行背后的原理,还为开发者提供了优化应用程序性能的实用技巧。不同于常规摘要仅概述文章大意,本文摘要将简要介绍JVM内存管理的关键点,为读者提供一个清晰的学习路线图。
|
1月前
|
存储 算法 Java
Java 内存管理与优化:掌控堆与栈,雕琢高效代码
Java内存管理与优化是提升程序性能的关键。掌握堆与栈的运作机制,学习如何有效管理内存资源,雕琢出更加高效的代码,是每个Java开发者必备的技能。
72 5
|
1月前
|
存储 算法 Java
Java内存管理深度解析####
本文深入探讨了Java虚拟机(JVM)中的内存分配与垃圾回收机制,揭示了其高效管理内存的奥秘。文章首先概述了JVM内存模型,随后详细阐述了堆、栈、方法区等关键区域的作用及管理策略。在垃圾回收部分,重点介绍了标记-清除、复制算法、标记-整理等多种回收算法的工作原理及其适用场景,并通过实际案例分析了不同GC策略对应用性能的影响。对于开发者而言,理解这些原理有助于编写出更加高效、稳定的Java应用程序。 ####
|
1月前
|
安全 Java 程序员
Java内存模型的深入理解与实践
本文旨在深入探讨Java内存模型(JMM)的核心概念,包括原子性、可见性和有序性,并通过实例代码分析这些特性在实际编程中的应用。我们将从理论到实践,逐步揭示JMM在多线程编程中的重要性和复杂性,帮助读者构建更加健壮的并发程序。
|
2月前
|
算法 Java 开发者
Java内存管理与垃圾回收机制深度剖析####
本文深入探讨了Java虚拟机(JVM)的内存管理机制,特别是其垃圾回收机制的工作原理、算法及实践优化策略。不同于传统的摘要概述,本文将以一个虚拟的“城市环卫系统”为比喻,生动形象地揭示Java内存管理的奥秘,旨在帮助开发者更好地理解并调优Java应用的性能。 ####
|
2月前
|
Java
java内存区域
1)栈内存:保存所有的对象名称 2)堆内存:保存每个对象的具体属性 3)全局数据区:保存static类型的属性 4)全局代码区:保存所有的方法定义
27 1
|
1月前
|
存储 监控 算法
Java内存管理的艺术:深入理解垃圾回收机制####
本文将引领读者探索Java虚拟机(JVM)中垃圾回收的奥秘,解析其背后的算法原理,通过实例揭示调优策略,旨在提升Java开发者对内存管理能力的认知,优化应用程序性能。 ####
53 0