Modo autônomo dos três modos operacionais do Spark

1. Visão geral do modo

Construção de um Master+Slavecluster em execução Spark, Spark formado no cluster.

Dois, instalação e uso

(1) Entre na pasta conf no diretório de instalação do spark

[atguigu@hadoop102 module]$ cd spark/conf/

(2) Modifique o nome do arquivo de configuração

[atguigu@hadoop102 conf]$ mv slaves.template slaves
[atguigu@hadoop102 conf]$ mv spark-env.sh.template spark-env.sh

(3) Modifique o arquivo escravo e adicione o nó de trabalho:

[atguigu@hadoop102 conf]$ vim slaves
hadoop102
hadoop103
hadoop104

(4) Modifique o arquivo spark-env.sh e adicione a seguinte configuração:

[atguigu@hadoop102 conf]$ vim spark-env.sh
SPARK_MASTER_HOST=hadoop101
SPARK_MASTER_PORT=7077

(5) Distribuir pacote de centelha

[atguigu@hadoop102 module]$ xsync spark/

(6) Iniciar

[atguigu@hadoop102 spark]$ sbin/start-all.sh
[atguigu@hadoop102 spark]$ util.sh
================atguigu@hadoop102================
3330 Jps
3238 Worker
3163 Master
================atguigu@hadoop103================
2966 Jps
2908 Worker
================atguigu@hadoop104================
2978 Worker
3036 Jps

Visualização da página da web:hadoop102:8080

Observação: se você encontrar a JAVA_HOME not setexceção " ", pode adicionar a seguinte configuração ao arquivo spark-config.sh no diretório sbin: export JAVA_HOME=XXXX(variável de ambiente JAVA)

(7) Pedido oficial de caso PI

[atguigu@hadoop102 spark]$ bin/spark-submit \
--class org.apache.spark.examples.SparkPi \
--master spark://hadoop102:7077 \
--executor-memory 1G \
--total-executor-cores 2 \
./examples/jars/spark-examples_2.11-2.1.1.jar \
100

(8) Inicie o escudo de faísca

/opt/module/spark/bin/spark-shell \
--master spark://hadoop101:7077 \
--executor-memory 1g \
--total-executor-cores 2

参数解析：--master spark://hadoop102:7077 指定要连接的集群的 master

Execute o programa WordCount:

scala>sc.textFile("input").flatMap(_.split("
")).map((_,1)).reduceByKey(_+_).collect

res0: Array[(String, Int)] = Array((hadoop,6), (oozie,3), (spark,3),
(hive,3), (atguigu,3), (hbase,6))

Três, configuração JobHistoryServer

(1) Modifique o nome do spark-default.conf.template

[atguigu@hadoop102 conf]$ mv spark-defaults.conf.template sparkdefaults.conf

(2) Modifique o arquivo spark-default.conf e ative o Log:

[atguigu@hadoop102 conf]$ vi spark-defaults.conf
spark.eventLog.enabled true
spark.eventLog.dir hdfs://hadoop102:9000/directory

Nota:HDFS 上的目录需要提前存在 .

(3) Modifique o arquivo spark-env.sh e adicione a seguinte configuração:

[atguigu@hadoop102 conf]$ vi spark-env.sh
export SPARK_HISTORY_OPTS="-Dspark.history.ui.port=18080
-Dspark.history.retainedApplications=30
-Dspark.history.fs.logDirectory=hdfs://hadoop101:9000/directory"

Descrição do parâmetro:

spark.eventLog.dir：Application 在运行过程中所有的信息均记录在该属性指定的路径下
spark.history.ui.port=18080 WEBUI 访问的端口号为 18080
spark.history.fs.logDirectory=hdfs://hadoop102:9000/directory 配置了该属性后，在 starthistory-server.sh 时就无需再显式的指定路径，Spark History Server 页面只展示该指定路径下的信息
spark.history.retainedApplications=30 指定保存 Application 历史记录的个数，如果超过
这个值，旧的应用程序信息将被删除，这个是内存中的应用数，而不是页面上显示的应用数。

(4) Arquivo de configuração de distribuição

[atguigu@hadoop102 conf]$ xsync spark-defaults.conf
[atguigu@hadoop102 conf]$ xsync spark-env.sh

(5) Iniciar serviço de histórico

[atguigu@hadoop102 spark]$ sbin/start-history-server.sh

(6) Execute a tarefa novamente

[atguigu@hadoop102 spark]$ bin/spark-submit \
--class org.apache.spark.examples.SparkPi \
--master spark://hadoop101:7077 \
--executor-memory 1G \
--total-executor-cores 2 \
./examples/jars/spark-examples_2.11-2.1.1.jar \
100

(7) Ver históricos de serviços:hadoop102:18080

Quatro, configuração HA

(1) Primeiro, certifique-se de que o zookeeper esteja instalado e iniciado normalmente

(2) Modifique o arquivo spark-env.sh e adicione a seguinte configuração:

[atguigu@hadoop102 conf]$ vi spark-env.sh
注释掉如下内容：
#SPARK_MASTER_HOST=hadoop102
#SPARK_MASTER_PORT=7077
添加上如下内容：
export SPARK_DAEMON_JAVA_OPTS="
-Dspark.deploy.recoveryMode=ZOOKEEPER
-Dspark.deploy.zookeeper.url=hadoop101,hadoop102,hadoop103
-Dspark.deploy.zookeeper.dir=/spark"

(3) Distribuição de arquivos de configuração

[atguigu@hadoop102 conf]$ xsync spark-env.sh

(4) Inicie todos os nós no hadoop102

[atguigu@hadoop102 spark]$ sbin/start-all.sh

(5) Inicie o nó mestre separadamente em hadoop103

[atguigu@hadoop103 spark]$ sbin/start-master.sh

(6) Acesso ao cluster Spark HA

/opt/module/spark/bin/spark-shell \
--master spark://hadoop101:7077,hadoop102:7077 \
--executor-memory 2g \
--total-executor-cores 2