开发者社区> 问答> 正文

Spark中DAGScheduler监控Job与Task是什么?

Spark中DAGScheduler监控Job与Task是什么?

展开
收起
芯在这 2021-12-10 22:36:39 382 0
1 条回答
写回答
取消 提交回答
  • DAGScheduler监控Job与Task:

    要保证相互依赖的作业调度阶段能够得到顺利的调度执行,DAGScheduler需要监控当前作业调度阶段乃至任务的完成情况。这通过对外暴露一系列的回调函数来实现的,对于TaskScheduler来说,这些回调函数主要包括任务的开始结束失败、任务集的失败,DAGScheduler根据这些任务的生命周期信息进一步维护作业和调度阶段的状态信息。

    2021-12-10 22:36:56
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Hybrid Cloud and Apache Spark 立即下载
Scalable Deep Learning on Spark 立即下载
Comparison of Spark SQL with Hive 立即下载