开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

我们flinkcdc升级到3.0.1 ,不同步数据,切换到2.4还是不行是为什么?

我们flinkcdc升级到3.0.1 ,不同步数据,切换到2.4还是不行是为什么?

展开
收起
小小鹿鹿鹿 2024-05-01 08:54:52 39 0
1 条回答
写回答
取消 提交回答
  • 某政企事业单位运维工程师,主要从事系统运维及大数据开发工作,多次获得阿里云、华为云、腾讯云征文比赛一二等奖;CTF选手,白帽,全国交通行业网络安全大赛二等奖,全国数信杯数据安全大赛银奖,手握多张EDU、CNVD、CNNVD证书

    遇到Flink CDC升级到3.0.1后不同步数据,回退到2.4版本仍然存在问题的情况,可能的原因包括但不限于:

    • 配置不兼容:升级或降级过程中,配置项可能有所变更,需检查并调整以确保与所使用版本兼容。特别是与连接信息、Checkpoint设置相关的配置。
    • 数据库兼容性问题:确认MySQL或其他数据库版本是否与Flink CDC版本完全兼容。如文档中提到,RDS MySQL 5.6只读实例可能无法提供完整Binlog数据,影响增量同步。
    • 作业状态不一致:版本切换可能导致作业状态不兼容或丢失,尝试无状态重启作业,并根据新旧版本特性重新调整作业配置。
    • 网络与连接问题:检查网络连通性,确保数据库连接信息正确无误,且没有网络延迟或中断导致的连接问题。
    • 反压与性能问题:如之前遇到的反压情况,需检查并优化作业以减轻反压,适当调整Checkpoint间隔,避免长时间无数据同步。
    • 软件Bug或已知问题:查阅官方发行说明及社区论坛,确认是否有已知问题影响数据同步,或寻找相关补丁及解决方案。

    CDC问题 报错:Caused by: java.sql.SQLSyntaxErrorException: Unknown storage engine 'BLACKHOLE'

    Flink读取CDC全量数据同步没有异常但是无法同步增量数据

    2024-05-01 21:36:04
    赞同 2 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关电子书

更多
阿里云MaxCompute百问百答 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载