Hadoop完全分布式的运行(重点)
(1)准备3台客户机(关闭防火墙、静态ip、主机名称)
(2)安装JDK
(3)配置环境变量
(4)安装Hadoop
(5)配置环境变量
(6)配置集群
(7)单点启动
(8)配置ssh
(9)群起并测试集群
虚拟机要进行以下的测试:
hostname
ping 当前的主机名
测试ip
ifconfig
测试防火墙
service iptables status
测试文件权限
ll /opt
scp(secure copy)安全拷贝(from server1 to server 2)
命令:
scp -r $pdir/$fname $user@hadoop$host:$pdir/$fname
命令 递归 要拷贝的文件路径/名称 目的用户@主机:目的路径/名称
在dev1下操作
比如:
cd /opt/module
scp -r /opt/module dev1@hadoop102:/opt/
然后依次hadoop101,hadoop102,hadoop103
然后还要授权操作
chown dev:dev1 -R /opt/module
成功授权。
如果权限不足则
vi /etc/sudoers
在set nu
命令91行下面加上图中的授权的一行
可以
source /etc/sudoers
让文件起作用
rsync快速的同步的命令,比scp要快
可以避免相同文件的传输。具有速度快、避免复制相同内容和支持符号链接的优点。
rsync -rvl $pdir/$fname $user@hadoop$host:$pdir/$fname
命令 选项参数 要拷贝的文件路径/名称 目的用户@主机:目的路径/名称
例如
rsync -rvl /opt/software/ dev1@hadoop102:/opt/software