开发者社区> 问答> 正文

Spark工作的流程是什么?

Spark工作的流程是什么?

展开
收起
芯在这 2021-12-06 01:09:39 221 0
1 条回答
写回答
取消 提交回答
  • 1.构造Spark Application的运行环境(启动SparkContext),SparkContext向资源管理器(可以是standalone、Mesos或Yarn)注册并申请运行Executor资源;

    2.资源管理器分配Executor资源,Executor运行情况将随着心跳发送到资源管理器上;

    3.SparkContext构建DAG图,将DAG图分解成Stage,并将Taskset发送给TaskSchedular。Executor向SparkContext申请Task,TaskSchedular将Task发送给Executor运行同时SparkContext将应用程序代码发送给Executor。

    4.Task在Executor上运行,运行完毕释放所有资源。

    2021-12-06 08:09:53
    赞同 展开评论 打赏
问答分类:
问答地址:
问答排行榜
最热
最新

相关电子书

更多
Hybrid Cloud and Apache Spark 立即下载
Scalable Deep Learning on Spark 立即下载
Comparison of Spark SQL with Hive 立即下载