Flink CDC为何使用增量快照做全量数据加载的时候， 计算chunks的数量 那么耗时？
Flink CDC为何使用增量快照做全量数据加载的时候， 计算chunks的数量 那么耗时？ 不是直接select count / 设置的chunk size 就得出chunks 然后每个chunk执行数据加载就可以了吗？
展开
收起
1
条回答
写回答
写回答
-
分片时要先获取表结构、分片键、分片键最大值、分片键最小值，估算表数量等信息，如果分片键是INT、BIGINT、DECIMAL类型的会先动态调整分片的大小，然后从最小值开始划分成[null, min + chunkSize]、按你说的那种方式划分。如果不分片键不是这种类型，每次要用SELECT FROM > ChunkStart Limt ChunkSize每次获取到分片的最大值
非数值类型的主键会扫描整表，均匀拆分数据。 数值类型主键 如果表里空洞太多，删除的数据太多，达到一个阈值，也会扫描整表均匀拆分数据，此回答整理自钉群“Flink CDC 社区”2023-09-13 17:21:31赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。
热门讨论
热门文章
请问Flink 写数据到 ES 有遇到过这个报错的么？
2168
Flink CDC多个任务合并一个宽表是怎么做的呀,数据存储在哪里,涉及到局部更新了吧？
1094
FFA 2024 大会门票免费送！AI时代下大数据技术未来路在何方？
1994
Flink sql 累计历史订单金额
223
flink1.20.0 部署后发布报错，是怎么回事，各种配置都配置了
394
大佬们，有遇到flink on k8s，访问ui界面 log接口报500吗？
333
请问flink-connector-jdbc在sink时，如何设置批量写入？
3223
Flink sql将数组炸开，实现hive的explode函数的效果，还有什么其他好的方式？
1617
FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
3653
flink本地启动webUI，TaskManager的Logs日志可以正常查看怎么办？
526
展开全部
通过Flink实时构建搜索引擎的索引
17537
Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
23436
Apache Flink 的迁移之路，2 年处理效果提升 5 倍
9749
Flink SQL 功能解密系列 —— 流计算“撤回(Retraction)”案例分析
18498
Apache Flink 漫谈系列(04) - State
13957
使用 Kafka 和 Flink 构建实时数据处理系统
13114
阿里巴巴高级技术专家章剑锋：大数据发展的 8 个要点
8310
Flink: 快速构建统一的实时日志平台
8421
基于 Flink 构建 CEP 引擎的挑战和实践
6666
Apache Flink 漫谈系列(09) - JOIN 算子
11643
展开全部
相关课程
更多
相关文章
相关电子书
更多
