flink cdc一般生产环境mysql的binlog会开启滚动日志,也就是为了节省空间,会删除掉之前的binlog,由于source和sink在同一个线程中,那么当出现back pressure时,可能会导致binlog被删除,而此时,应用由于异常导致重启并从checkpoint重新读取的问题。怎么处理?
binlog被删除请调大保存时间,一般是7天,一般超过分钟都需要看看是不是反压了,最好加个告警。超过分钟级的cdc延迟已经是不可接受的了。7天内无法修复任务,直接无状态同步就行了。交易量大时是某个时间段,不可能一直是很高,只要保证binlog的保存时间能在可修复的时间内就行。此回答来自钉群Flink CDC 社区 。
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。