开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

有人遇到过datastream api同步postgresql某个表的全量数据时,数据丢失情况吗,?

有人遇到过datastream api同步postgresql某个表的全量数据时,数据丢失情况吗,我测试了多次,偶尔会遇到数据丢失情况,有时源表数据量多于目标表且数据不是全量期间新增的,有时目标表多于源表(这种是全量阶段源表有删除数据)?是的,pg和kingbase,这个没配置,默认值image.png

展开
收起
真的很搞笑 2023-06-18 12:55:22 63 0
1 条回答
写回答
取消 提交回答
  • 你也是同步pg吗?max_wal_senders 你这个参数配置的多少image.png 比我我这里配置了多个数据源,现在数据库比较多,api 同时只能同步一个数据库,搞一个兜底,每天跑一次离线数据采集,此回答整理自钉群“Flink CDC 社区”

    2023-06-18 13:17:09
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

热门讨论

热门文章

相关电子书

更多
Spring Boot2.0实战Redis分布式缓存 立即下载
CUDA MATH API 立即下载
API PLAYBOOK 立即下载

相关镜像