flink使用jdbcsink写入hive3的话 还会产生小文件问题吗？
flink使用jdbcsink写入hive3的话 还会产生小文件问题吗？
展开
收起
1
条回答
写回答
写回答
-
如果使用 Flink 的 JDBCSink 写入 Hive3，那么是有可能产生小文件问题的。
因为 JDBCSink 是基于批处理的，它会将数据缓存在内存中，直到内存满了之后才会写入 Hive3 表。如果数据量很大，那么内存很快就会满了，就会产生很多小文件。
为了避免这个问题，你可以使用 Flink 的 Checkpointing 功能。这样，Flink 会定期将数据保存到外部存储中，这样内存就不容易满了。
你也可以使用 Flink 的 Async I/O 功能。这样，Flink 会异步将数据写入 Hive3 表，这样也不容易产生小文件。
此外，你也可以使用 Hive3 的压缩功能 来压缩数据，这样也可以减少小文件。
2023-09-28 10:13:09赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。
热门讨论
热门文章
Flink sql 累计历史订单金额
333
flink1.20.0 部署后发布报错，是怎么回事，各种配置都配置了
470
FFA 2024 大会门票免费送！AI时代下大数据技术未来路在何方？
2057
FlinkCDC如何保证数据的一致性?
232
FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
3705
请问flink-connector-jdbc在sink时，如何设置批量写入？
3271
Caused by: org.apache.kafka.common.errors.TimeoutE
3409
Flink CDC多个任务合并一个宽表是怎么做的呀,数据存储在哪里,涉及到局部更新了吧？
1131
Apache Flink未授权访问上传导致的RCE漏洞，这个漏洞目前方案解决吗？
672
flink cdc报错 : Cannot read the binlog这是什么原因呢？
787
展开全部
Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
23479
Flink on YARN（下）：常见问题与排查思路
19229
计算广告与流处理技术综述
5190
PPT合集｜Flink Forward Asia 2024 上海站
3130
菜鸟双11在「仓储配送数据实时化」的台前幕后
4855
【阿里内部应用】基于Blink构建亲听项目以及全链路debug项目实时响应能力
3735
美团点评基于 Flink 的实时数仓平台实践
5054
Flink State 有可能代替数据库吗？
3485
Netflix：如何打造开放协作的实时 ETL 平台？
1853
Flink State 最佳实践
2460
展开全部
相关课程
更多
相关文章
相关电子书
更多
