开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC的增量同步,有没有要求一定要有HDFS?

Flink CDC的增量同步,有没有要求一定要有HDFS?也就是一定要有这样一个分布式的文件系统,对吧?

展开
收起
真的很搞笑 2023-11-22 08:14:56 140 0
3 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    不是必须要有 HDFS 才能使用 Flink CDC 的增量同步功能。
    Flink CDC 提供了两种增量同步方式:基于文件的增量同步和基于数据库的增量同步。
    基于文件的增量同步将增量数据写入 HDFS 或其他分布式文件系统,以便于持久化和分布式存储。这种方式需要一个可用的分布式文件系统,例如 HDFS 或 S3。
    基于数据库的增量同步将增量数据写入另一个数据库系统,例如 PostgreSQL 或 MySQL。这种方式不需要分布式文件系统,但是需要安装和配置数据库系统。
    总的来说,选择哪种增量同步方式取决于您的应用场景和需求。如果您需要长期保留增量数据,并希望跨多个节点分布存储,那么基于文件的增量同步是一个好选择;如果只需要短期存储增量数据,并且不需要跨多个节点分布存储,那么基于数据库的增量同步可能是更好的选择。

    2023-11-29 14:36:13
    赞同 展开评论 打赏
  • 这就取决于你flink集群的状态后端怎么配置,也可以是oss,s3之类的,也可以放在内存里,只要你内存吃的住,目前只支持这些image.png
    不过你可以魔改实现,此回答整理自钉群“Flink CDC 社区”

    2023-11-22 10:56:11
    赞同 展开评论 打赏
  • Flink CDC的增量同步并不强制要求一定要有HDFS分布式文件系统。它可以监控MySQL数据库的binlog,并将binlog中的增量数据实时同步到Flink的数据源中。Flink CDC支持全量和增量数据一体化同步,首先读取数据库中表的历史全量数据,再无缝衔接到读取表的增量数据,为用户提供实时的、一致性的快照。整个过程中,全量同步与增量读取无缝衔接,不需要用户进行手动干预或切换。

    2023-11-22 09:31:41
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink峰会 - 徐榜江 立即下载
    Flink CDC Meetup PPT - 龚中强 立即下载
    海量数据分布式存储——Apache HDFS之最新进展 立即下载