开发者社区> 问答> 正文

美团 Flink 在大规模作业部署时遇到了哪些主要问题?

美团 Flink 在大规模作业部署时遇到了哪些主要问题?

展开
收起
夹心789 2024-07-30 16:26:18 32 0
1 条回答
写回答
取消 提交回答
  • 在大规模作业部署时,美团 Flink 遇到了几个问题。首先,部署大量 Task 时会遇到部署时间长或因为 RPC 超时而导致部署失败的问题。其次,Task 分布不够合理,部分 TaskManager 中 Network Buffer 的数量不足,会导致作业启动失败。另外,大作业做 Checkpoint 期间,会给 HDFS 带来瞬时压力,影响其他作业使用 HDFS。

    2024-07-30 19:35:36
    赞同 2 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Flink CDC Meetup PPT - 龚中强 立即下载
Flink CDC Meetup PPT - 王赫 立即下载
Flink CDC Meetup PPT - 覃立辉 立即下载