开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC3.0的源码应该是master吧,没有where条件相关的逻辑呀?

Flink CDC3.0的源码应该是master吧,没有where条件相关的逻辑呀?我们有这个需求,需要做一下二次开发,想着借鉴一下3.0呢

展开
收起
真的很搞笑 2023-12-10 20:14:39 79 0
1 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    Flink CDC的源码可以在GitHub上找到,具体地址为:https://github.com/ververica/flink-cdc-connectors。在这里,你可以找到各种不同数据库的CDC实现,比如flink-cdc-mysql。

    关于你提到的"where"条件相关的逻辑,在Flink SQL中,如果希望支持过滤条件下推到数据库层面以增加处理性能,目前存在两种可行的解决方案:一是使用分区字段来做过滤;二是通过修改源码或者自定义connector来实现。

    不过,需要注意的是,这种方式需要一定的开发和理解能力,并且可能会带来额外的维护成本。因此,如果你没有足够的技术储备或者时间,建议优先考虑其他方案,如调整数据处理逻辑或者优化查询语句等。

    2023-12-11 17:16:22
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载