开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC我在文档中没有发现对于cdc服务高可用的描述,是不是有全局竞争锁这种概念?

Flink CDC我在文档中没有发现对于cdc服务高可用的描述,也就是说我部署两个pod有没有问题,是不是有全局竞争锁这种概念?

展开
收起
真的很搞笑 2023-10-04 07:42:44 104 0
2 条回答
写回答
取消 提交回答
  • 合理配置Flink CDC的参数。可以调整Flink CDC的参数,例如并发度、超时时间等,以降低全局竞争锁的频率。
    优化数据处理逻辑。可以通过优化数据处理逻辑,例如使用乐观锁、悲观锁等机制,来降低全局竞争锁的频率。
    使用更稳定的存储引擎。可以选择更稳定的存储引擎,例如MySQL、Oracle等,以降低全局竞争锁的频率。

    2023-10-12 17:43:06
    赞同 展开评论 打赏
  • Flink的CDC(Change Data Capture)功能本身并不支持高可用性。这是因为Flink的CDC功能依赖于数据库的Binlog或者其他变更日志,而这些日志流是无法跨多个Pod进行分割和复制的。因此,如果你部署两个Pod,它们可能会竞争相同的数据库连接,从而导致数据的一致性问题。

    此外,Flink的CDC功能并没有使用全局竞争锁的概念。但是,如果你的应用程序使用了其他的数据源或者算子,这些数据源或者算子可能会有自己的全局竞争锁,这可能会影响到Flink CDC的性能和稳定性。

    如果你需要高可用的CDC服务,你可能需要考虑使用其他的CDC驱动程序,或者自己实现CDC驱动程序的高可用性。你也可以考虑使用Flink的StatefulSetJobManager策略,以实现JobManager的高可用性。

    2023-10-11 14:13:24
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载