开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC怎么知道现在处于全量阶段还是增量阶段?

Flink CDC怎么知道现在处于全量阶段还是增量阶段?

展开
收起
真的很搞笑 2023-10-18 16:05:20 125 0
3 条回答
写回答
取消 提交回答
  • flink日志打开,看日志

    2023-11-08 18:51:59
    赞同 展开评论 打赏
  • Flink CDC 在读取数据的过程中,分为两个阶段来判断当前处于全量阶段还是增量阶段。

    1. 全量阶段:当 Flink CDC 开始读取所有的历史变更记录时,它处于全量阶段。这个阶段主要是为了获取从初始状态开始的所有数据变更。在某些实现中,例如Flink CDC 1.0,全量阶段会先获取全局读锁(reload权限),这表示要获取整个数据库的快照。而在Flink CDC 2.0版本中,全量读取阶段支持分布式读取和checkpoint,并且在不锁表的情况下确保数据的一致性。

    2. 增量阶段:当 Flink CDC 开始读取最新的变更记录时,它就进入了增量阶段。这个阶段是为了获取从上次读取点之后发生的数据变更。

    在这两个阶段之间,为了保证数据的一致性,Flink CDC的实现通常会采用加锁机制来确保数据的完整性和准确性。

    2023-10-19 09:06:36
    赞同 展开评论 打赏
  • 看指标,有个增量阶段特有的指标,此回答整理自钉群“Flink CDC 社区”

    2023-10-18 18:40:03
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载