开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC同步到hudi 可以直接读取hudi 的数据吗 例如用hive 或者spark?

Flink CDC同步到hudi 可以直接读取hudi 的数据吗 例如用hive 或者spark?

展开
收起
真的很搞笑 2024-03-05 23:28:58 41 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    Flink CDC同步到Hudi的数据可以被Hive或Spark直接读取。

    Flink CDC(Change Data Capture)是用于捕获数据库变更的框架,而Hudi(Hadoop Upserts Deletes and Incrementals)是一个流式数据湖平台,它支持在Hadoop生态系统中进行数据的增删改查操作,特别是针对记录级别的数据操作。当使用Flink CDC将数据变更同步到Hudi后,Hudi会将这些变更应用到存储在HDFS(Hadoop Distributed File System)上的数据湖中。由于Hudi的数据格式兼容Hadoop生态,因此可以通过Hive或Spark来直接读取和查询这些数据

    此外,Hudi还提供了事务支持和索引优化,这使得它非常适合用于构建实时数据仓库和数据湖。通过Flink CDC与Hudi的整合,可以实现从数据库到数据湖的实时数据同步,为下游用户提供实时数据查询的能力。这种架构可以有效地处理大量的数据变更,并且保证数据的一致性和可靠性。

    总的来说,Flink CDC同步到Hudi的数据可以被Hive或Spark直接读取,这为数据分析和处理提供了一个灵活且强大的解决方案。

    2024-03-08 23:26:32
    赞同 展开评论 打赏
  • 我这里使用spark读同步过来的hudi数据是可以的 ,此回答整理自钉群“Flink CDC 社区”

    2024-03-06 10:43:35
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Hybrid Cloud and Apache Spark 立即下载
    Scalable Deep Learning on Spark 立即下载
    Comparison of Spark SQL with Hive 立即下载