开发者社区> 问答> 正文

Flink与Yarn的状态一致性问题

最近在使用Flink-1.11.1 On Yarn Per Job模式提交简单的kafka->mysql任务时,发现当有脏数据或mysql主键限制等等原因导致Flink任务状态置为Failed时,Yarn application仍处于运行状态

疑问是Flink任务处于Failed或Finished时,不会反馈自身状态给Yarn吗?期待大佬解惑,谢谢*来自志愿者整理的flink邮件归档

展开
收起
小阿矿 2021-12-03 16:20:44 1012 0
1 条回答
写回答
取消 提交回答
  • PerJob 模式下,在作业完全挂掉之后,是会上报 YARN RM 应用自己失败的状态的。

    当然,在 FLINK 察觉自己 FAILED 到上报给 YARN 是有一定的时延的,也有可能因为网络等问题上报失败。

    你这个是短暂的不一致时间窗口,还是说 FLINK 集群已经退了,YARN 的状态还没有变化呢?

    *来自志愿者整理的flink邮件归档

    2021-12-06 10:45:51
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
深度学习+大数据 TensorFlow on Yarn 立即下载
Docker on Yarn 微服务实践 立即下载
深度学习+大数据-TensorFlow on Yarn 立即下载