开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC Mysql cdc job 运行时间久了,就发现不同步数据了,有没有遇到过吗?

"Flink CDC Mysql cdc job 运行时间久了,就发现不同步数据了,只有重启才能继续同步数据。有没有同学遇到过这个问题:https://github.com/ververica/flink-cdc-connectors/issues/2568
2.4.2 说是这个问题解决了,但我切到 2.3 及以后的版本会出现下面的问题,是怎么回事呢?
https://github.com/ververica/flink-cdc-connectors/issues/2441#issuecomment-1757382491"

展开
收起
真的很搞笑 2023-12-19 08:08:04 90 0
1 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    这个问题可能是由于Flink CDC在长时间运行后,与MySQL数据库之间的连接出现了问题。可以尝试以下方法解决:

    1. 检查MySQL数据库的连接配置是否正确,包括主机名、端口号、用户名和密码等。
    2. 尝试增加Flink CDC作业的超时时间,以防止连接超时导致同步失败。可以通过修改flink-cdc-connector-mysql.properties文件中的connector.tasks.max参数来实现。例如,将该参数设置为更大的值,如300
    connector.tasks.max=300
    
    1. 如果问题仍然存在,可以考虑升级到更高版本的Flink CDC连接器,以解决已知的问题。根据你提到的链接,2.4.2版本已经解决了一些问题,可以尝试升级到这个版本或更高版本。
    2023-12-19 14:53:01
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 热门讨论

    热门文章

    相关电子书

    更多
    搭建电商项目架构连接MySQL 立即下载
    搭建4层电商项目架构,实战连接MySQL 立即下载
    PolarDB MySQL引擎重磅功能及产品能力盛大发布 立即下载

    相关镜像