1.5.1.2 Spark的部署与安装

总目录:https://blog.csdn.net/qq_41106844/article/details/105553392

Hadoop - 子目录:https://blog.csdn.net/qq_41106844/article/details/105553369

Spark的部署方式

单机Spark

一般用于测试。

Spark-Mesos

与Spark有血缘关系,性能匹配最好。

Spark-Yarn

基于Hadoop集群,这种实用性最广。

安装Spark

安装前准备:jdk8,hadoop2.7集群,scala2.10以上的软件包,spark2.X软件包。
本次安装基于1.3.3完全分布式搭建
虽然spark是scala语言编写的,但是因为scala和java的混编特性,只要有java环境就可以安装spark了。
scala软件包解压和spark解压路径一致即可。
首先解压spark软件包:

 
20155953-f82ffd1640f6eb3b.png
解压

配置环境变量:
/etc/profile

 
20155953-96cb1e2858450aae.png
环境变量

修改配置文件:
之后来到spark目录中的conf目录,这个目录里面放的就是spark所有的配置项。
这个目录中的文件都是以template结尾的模板文件,将slaves和spark-env.sh拷贝出来。

 
20155953-c724db6f968986e7.png
配置项

然后在slaves中添加所有节点。

 
20155953-8f97f0fab2c9da66.png
slaves

然后配置我们的spark-env.sh:

 
20155953-89e379fd028361b6.png
配置

同时修改一下启动关闭项的名称,防止和hadoop的冲突。

 
20155953-73cff799a3829ff0.png
修改启动项

传输到其他节点:

 
20155953-a1c32915b5945a9c.png
传输到slave1
 
20155953-19cfe0be4669be89.png
传输到slave2

启动集群:

 
20155953-821eca0fbeb8cc34.png
启动hadoop
 
20155953-8a2931d332969957.png
启动spark
 
20155953-d3c0985334c93de3.png
主节点jps

master是spark主节点标识,worker是任务容器。

 
20155953-748fff1a01ec2f91.png
从节点jps
 
20155953-e2bd5bed882db671.png
从节点jps
发布了242 篇原创文章 · 获赞 60 · 访问量 2188

猜你喜欢

转载自blog.csdn.net/qq_41106844/article/details/105553316