开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

大佬们,问下,用flinksql 消费kafka然后开60秒的窗,写入kafka中, 每秒大概5W条

大佬们,问下,用flinksql 消费kafka然后开60秒的窗,写入kafka中, 每秒大概5W条数据,现在背压严重, 该加大哪些参数啊, 直接用flink1.13.1官方安装包运行的,没加任何配置,直接yarn-cluster跑yarn上的

展开
收起
游客3oewgrzrf6o5c 2022-08-24 16:20:37 855 0
1 条回答
写回答
取消 提交回答
  • bin/kafka-configs.sh --bootstrap-server localhost:9092 --alter --add-config 'producer_byte_rate=1024,consumer_byte_rate=2048,request_percentage=200' --entity-type clients --entity-default控制生产者生产速度,和消费者消费速度,让上游慢于下游(此答案整理自Flink CDC 社区)

    2022-08-24 17:08:57
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关电子书

更多
Java Spring Boot开发实战系列课程【第16讲】:Spring Boot 2.0 实战Apache Kafka百万级高并发消息中间件与原理解析 立即下载
MaxCompute技术公开课第四季 之 如何将Kafka数据同步至MaxCompute 立即下载
消息队列kafka介绍 立即下载