对于Flink CDC，一般不太可能一张的记录数正好是1000的倍数，总有一个余数需要处理？
对于Flink CDC，mysql全量时，当一张表结束后，是否可以通知一下sink，比如发送一个类似EOF的change event到sink端，这样sink就能方便的处理全量数据，因为当sink有多个subtask时，根本不知道snapshot是否已经结束了。一般sink端处理全量都是批量的方式，比如1000条一个批次，如果不知道一张的snapshot已经结束了，那sink端就无法处理缓存中的尾数，一般不太可能一张的记录数正好是1000的倍数，总有一个余数需要处理？
展开
收起
1
条回答
写回答
写回答
-
增量阶段只有1哥并行度在工作，配置scan.incremental.close-idle-reader.enabled = ‘true‘，全量结束会自动关闭task。
配置scan.incremental.close-idle-reader.enabled = ‘true‘，全量阶段结束会自动关闭空闲task-此回答整理自钉群“Flink CDC 社区”2024-07-03 15:03:08赞同 4 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。
热门讨论
热门文章
Flink这个未授权访问漏洞有什么解决方案吗？
1619
各位老师，请教个问题，flink 会在本地 /tmp 目录下产生大量flink-临时文件，目前看好？
2026
Flink CDC 使用jar包启动异常
537
Flink如何配置Task Manager？
973
Flink sql将数组炸开，实现hive的explode函数的效果，还有什么其他好的方式？
1833
flinkcdc启动，怎么修改默认端口号，默认是8081。
1648
FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
3904
Flink1.17为什么需要JDK 11呢？JDK8我试了也能运行
2062
Flink 集群重启后，所有的Jobs任务全都没有了。如果快速恢复所有的任务
1502
Flink CDC中SQL server CDC这种报错有什么解决方式嘛？
1092
展开全部
分布式Snapshot和Flink Checkpointing简介
20015
Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
23594
阿里云实时计算产品案例&解决方案汇总
27982
Flink Checkpoint 问题排查实用指南
13303
咱们从头到尾讲一次 Flink 网络流控和反压剖析
6097
Apache Flink 漫谈系列(09) - JOIN 算子
11683
Apache Flink 进阶（一）：Runtime 核心机制剖析
29929
Ververica Platform-阿里巴巴全新Flink企业版揭秘
6137
速度收藏！看完这份知识图谱，才算搞懂 Flink！
7790
Flink China 社区运营成果报告（7月-9月）
2699
展开全部
相关课程
更多
相关文章
相关电子书
更多
