开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC全量是要等读取完所有才能完成checkpoint吗?

Flink CDC全量是要等读取完所有才能完成checkpoint吗?image.png

展开
收起
真的很搞笑 2023-12-19 05:45:12 69 0
1 条回答
写回答
取消 提交回答
  • Flink CDC在进行全量数据摄取时,对于首次启动或需要进行全量同步的情况,通常会有一个初始的快照阶段,该阶段需要将目标数据库中的所有数据一次性读取完毕并传递到Flink作业中进行处理。在这个过程中,Flink作业会暂停定期的增量checkpoint,直到全量数据加载完成。

    一旦全量数据读取处理完毕并且所有数据已经被Flink作业正常处理并进入状态后端,此时才会触发一个完整的checkpoint。这意味着在全量阶段,checkpoint确实是需要等待所有全量数据读取及处理完成之后才能成功完成

    2024-02-20 10:07:12
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载