开发者社区> 问答> 正文

kafka connector问题

官网给的kafka table配置里的scan.startup.mode CREATE TABLE kafkaTable ( user_id BIGINT, item_id BIGINT, category_id BIGINT, behavior STRING, ts TIMESTAMP(3) ) WITH ( 'connector' = 'kafka', 'topic' = 'user_behavior', 'properties.bootstrap.servers' = 'localhost:9092', 'properties.group.id' = 'testGroup', 'format' = 'csv', 'scan.startup.mode' = 'earliest-offset' )看了总共有以下几总'earliest-offset', 'latest-offset', 'group-offsets', 'timestamp' and 'specific-offsets'如果我作业重启的话选择group-offsets能否从上次消费到的位置开始?这种情况下需要配置提交offset到kafka broker相关的东西吗?有没有从savepoint保存的offset继续消费的配置?

*来自志愿者整理的flink邮件归档

展开
收起
小阿矿 2021-12-07 15:45:38 2176 0
1 条回答
写回答
取消 提交回答
  • 首先,从checkpoint/savepoint

    恢复的话,一定会以checkpoint/savepoint中的offset为准,所以它的优先级是最高的,

    不管你配置哪种startup mode。

    如果你没有开启checkpoint,那么如果你用了group-offsets,那它就会从保存在kafka中的offset进行启动。

    提交offset到kafka这个应该是默认就开了的。*来自志愿者整理的flink邮件归档

    2021-12-07 16:41:37
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Java Spring Boot开发实战系列课程【第16讲】:Spring Boot 2.0 实战Apache Kafka百万级高并发消息中间件与原理解析 立即下载
MaxCompute技术公开课第四季 之 如何将Kafka数据同步至MaxCompute 立即下载
消息队列kafka介绍 立即下载