开发者社区> 问答> 正文

关于解析位点与消费位点

canal真好用,谢谢你们的付出。但是我发现一个问题(不知道是不是真的问题)

场景:

canal server和client都在运行中,此时往数据库变更很多数据(假设十万) 现在假设parser已经解析完,位点处于binlog最新的位置,但client消费很慢,只消费了一万条数据。此时如果server挂了,然后重新启动,读取zk上的解析位点(binlog最新位置),此时server上的binlog数据只有最新的,而client还没消费完,此时client再获取数据,是不是就获取不到那九万条没消费的数据?

原提问者GitHub用户xzhhh

展开
收起
绿子直子 2023-05-09 15:15:53 91 0
1 条回答
写回答
取消 提交回答
  • 每次从mysql获取binlog不是,都要从指定起始位置开始嘛, 所以我贴的是解析起始位点代码,大概是每次canal server 启动都会去拿上次客户端消费后(ack)的positon(如果有)去mysql获取binlog, 所以即使canal server 获取了10w 条记录,canal client 只消费了1000条后canal server挂了, 如果ack成功更新了这1000条记录,下次从1000开始消费,如果没有ack成功,应该从头开始消费,就会有重复!至于你说的消费不到,除非journalname,postion, timestamp 都没配置,就是从mysql binlog(show master status)最近的开始消费

    原回答者GitHub用户luyee

    2023-05-10 10:58:08
    赞同 展开评论 打赏
问答分类:
问答标签:
问答地址:
问答排行榜
最热
最新

相关电子书

更多
神龙云服务器产品及技术深度解析 立即下载
弹性创造价值:基于ECS的最佳性价比实践解析 立即下载
又快又稳:阿里云下一代虚拟交换机解析 立即下载

相关镜像