2.3.5 配置高可用（HA）
1、高可用原理
2、配置高可用
（0）停止Spark集群
（1）Zookeeper正常安装并启动
（2）修改spark-env.sh文件添加如下配置
#注释掉如下内容： #SPARK_MASTER_HOST=hadoop102 #SPARK_MASTER_PORT=7077 #添加如下内容。配置由Zookeeper管理Master，在Zookeeper节点中自动创建/spark目录，用于管理： export SPARK_DAEMON_JAVA_OPTS=" -Dspark.deploy.recoveryMode=ZOOKEEPER -Dspark.deploy.zookeeper.url=hadoop102,hadoop103,hadoop104 -Dspark.deploy.zookeeper.dir=/spark" #添加如下代码 #Zookeeper3.5的AdminServer默认端口是8080，和Spark的WebUI冲突 export SPARK_MASTER_WEBUI_PORT=8989
（3）分发配置文件
（4）在hadoop102上启动全部节点
（5）在hadoop103上单独启动master节点
3、高可用测试
（1）查看hadoop102的master进程
（2）Kill掉hadoop102的master进程，页面中观察http://hadoop103:8080/的状态是否切换为alive。
（3）再启动hadoop102的master进程
2.3.5 运行流程
Spark有Standalone-Client和Standalone-Cluster两种模式，主要区别在于：Driver程序的运行节点。
1、客户端模式
bin/spark-submit \ --class org.apache.spark.examples.SparkPi \ --master spark://hadoop102:7077,hadoop103:7077 \ --executor-memory 2G \ --total-executor-cores 2 \ --deploy-mode client \ ./examples/jars/spark-examples_2.12-3.3.0.jar \ 10
–deploy-mode client，表示Driver程序运行在本地客户端，默认模式。
2.4 Yarn模式
Spark客户端直接连接Yarn，不需要额外构建Spark集群
2.4.1 安装使用
（0）停止Standalone模式下的spark集群
（1）为了防止和Standalone模式冲突，再单独解压一份spark
（2）进入到/opt/module目录，修改spark-3.3.0-bin-hadoop3.2名称为spark-yarn
（3）修改hadoop配置文件/opt/module/hadoop-3.1.3/etc/hadoop/yarn-site.xml，添加如下内容（因为测试环境虚拟机内存较少，防止执行过程进行被意外杀死，做如下配置）
<!--是否启动一个线程检查每个任务正使用的物理内存量，如果任务超出分配值，则直接将其杀掉，默认是true --> <property> <name>yarn.nodemanager.pmem-check-enabled</name> <value>false</value> </property> <!--是否启动一个线程检查每个任务正使用的虚拟内存量，如果任务超出分配值，则直接将其杀掉，默认是true --> <property> <name>yarn.nodemanager.vmem-check-enabled</name> <value>false</value> </property>
4、分发配置文件
5、修改/opt/module/spark-yarn/conf/spark-env.sh，添加YARN_CONF_DIR配置，保证后续运行任务的路径都变成集群路径
YARN_CONF_DIR=/opt/module/hadoop/etc/hadoop
6、启动HDFS以及YARN集群
7、执行一个程序
bin/spark-submit \ --class org.apache.spark.examples.SparkPi \ --master yarn \ ./examples/jars/spark-examples_2.12-3.3.0.jar \ 10 #参数：--master yarn，表示Yarn方式运行；--deploy-mode表示客户端方式运行程序
8、查看hadoop103:8088页面，点击History，查看历史页面
2.4.2 配置历史服务
由于是重新解压的Spark压缩文件，所以需要针对Yarn模式，再次配置一下历史服务器。
1、修改spark-default.conf.template名称
mv spark-defaults.conf.template spark-defaults.conf
2、修改spark-default.conf文件，配置日志存储路径（写）
spark.eventLog.enabled true spark.eventLog.dir hdfs://hadoop102:8020/directory
3、修改spark-env.sh文件，添加如下配置
export SPARK_HISTORY_OPTS=" -Dspark.history.ui.port=18080 -Dspark.history.fs.logDirectory=hdfs://hadoop102:8020/directory -Dspark.history.retainedApplications=30" # 参数1含义：WEBUI访问的端口号为18080 # 参数2含义：指定历史服务器日志存储路径（读） # 参数3含义：指定保存Application历史记录的个数，如果超过这个值，旧的应用程序信息将被删除，这个是内存中的应用数，而不是页面上显示的应用数。
2.4.3 配置查看历史日志
为了能从Yarn上关联到Spark历史服务器，需要配置spark历史服务器关联路径。
目的：点击yarn（8088）上spark任务的history按钮，进入的是spark历史服务器（18080），而不再是yarn历史服务器（19888）。
1、修改配置文件/opt/module/spark-yarn/conf/spark-defaults.conf
#添加如下内容： spark.yarn.historyServer.address=hadoop102:18080 spark.history.ui.port=18080
2、重启Spark历史服务
3、提交任务到Yarn执行
bin/spark-submit \ --class org.apache.spark.examples.SparkPi \ --master yarn \ ./examples/jars/spark-examples_2.12-3.3.0.jar \ 10
4、Web页面查看日志：http://hadoop103:8088/cluster
点击“history”跳转到http://hadoop102:18080/
2.4.4 运行流程
Spark有yarn-client和yarn-cluster两种模式，主要区别在于：Driver程序的运行节点。
yarn-client：Driver程序运行在客户端，适用于交互、调试，希望立即看到app的输出。
yarn-cluster：Driver程序运行在由ResourceManager启动的APPMaster，适用于生产环境。
1、客户端模式（默认）
（1）执行任务
bin/spark-submit \ --class org.apache.spark.examples.SparkPi \ --master yarn \ --deploy-mode client \ ./examples/jars/spark-examples_2.12-3.3.0.jar \ 10
（2）任务执行结果输出在本地控制台中
（3）yarn查看任务
YarnClient运行模式介绍
2、集群模式
（1）执行任务
bin/spark-submit \ --class org.apache.spark.examples.SparkPi \ --master yarn \ --deploy-mode cluster \ ./examples/jars/spark-examples_2.12-3.3.0.jar \ 10
（2）本地看不见结果输出
（3）看http://hadoop103:8088/cluster页面，点击History按钮，跳转到历史详情页面
（4）查看结果输出：http//8080点击Executors->点击driver中的stdout
2.5 Mesos模式
Spark客户端直接连接Mesos；不需要额外构建Spark集群。国内应用比较少，更多的是运用Yarn调度。
2.6 几种模式对比
2.7 端口号总结
1、Spark查看当前Spark-shell运行任务情况端口号：4040
2、Spark Master内部通信服务端口号：7070
3、Spark Standalone模式Master Web端口号：8080
4、Spark历史服务器端口号：18080
