开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink 的分布式快照方法是什么?

Flink 的分布式快照方法是什么?

展开
收起
詹姆斯邦德00 2021-11-17 17:19:44 540 0
1 条回答
写回答
取消 提交回答
  • 首先在源数据流里插入 Checkpoint barrier,不同的 Checkpoint barrier 会把流自然地切分多个段,每个段都包含了 Checkpoint 的数据;

    其次,Flink 里有一个全局的 Coordinator,它不像 Chandy-Lamport 对任意一个进程都可以发起快照,这个集中式的 Coordinator 会把 Checkpoint barrier 注入到每个source 里,然后启动快照。当每个节点收到 barrier 后,因为 Flink 里面它不存储Channel state,所以它只需存储本地的状态就好。

    最后,在做完了 Checkpoint 后,每个算子的每个并发都会向 Coordinator 发送一个确认消息,当所有任务的确认消息都被 Checkpoint Coordinator 接收,快照就结束了。

    资料来源:《Apache Flink 必知必会》,下载链接:https://developer.aliyun.com/topic/download?id=1189 

    2021-11-17 19:36:15
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载