CentOS7でのHadoop2.5.0のインストールとデプロイ

バックグラウンド

CentOS7でのHadoop2.5.0のインストールとデプロイのプロセスを記録します

ステップ

1.新しいcdhフォルダーを作成し、hadoop圧縮パッケージをcdhフォルダーに解凍します

#mkdir cdh
#tar -zxvf hadoop-2.5.0-cdh5.3.6.tar.gz -C cdh

2.hadoop解凍ディレクトリの下のetc / hadoopディレクトリに切り替え、hadoop-env.sh、mapred-env.sh、mapred-site.xml.template、hdfs-site.xml、yarn-site.xml、coreを変更します。 -site.xmlとスレーブの7つのファイル。

両方の環境は、部屋のファイルのJAVA_HOMEのみを変更できます(私のCentOSのjava1.8は/ home / szc / jdk8_64ディレクトリにインストールされているため、JAVA_HOMEは/ home / szc / jdk8_64に設定されます)

export JAVA_HOME=/home/szc/jdk8_64

mapred-site.xml.templateファイルを次のように変更した後、名前をmapred-site.xmlファイルに変更します。

<configuration>

    <property>

        <name>mapreduce.framework.name</name>

        <value>yarn</value>

    </property>

    <property>

        <name>mapreduce.jobhistory.address</name>

        <value>192.168.57.141:10020</value>

    </property>

    <property>

        <name>mapreduce.jobhistory.webapp.address</name>

        <value>192.168.57.141:19888</value>

    </property>

</configuration>

hdfs-site.xml

<configuration>

    <property>

        <name>dfs.replication</name>

        <value>1</value>

    </property>

    <property>

        <name>dfs.namenode.secondary.http-address</name>

        <value>192.168.57.141:50091</value>

    </property>

</configuration>

糸-site.xml

<configuration>

<!-- Site specific YARN configuration properties -->

    <property>

        <name>yarn.nodemanager.aux-services</name>

        <value>mapreduce_shuffle</value>

    </property>



    <property>

        <name>yarn.resoucemanager.hostname</name>

        <value>192.168.57.141</value>

    </property>



    <property>

        <name>yarn.log-aggregation-enable</name>

        <value>true</value>

    </property>

    <property>

        <name>yarn.log-aggregation.retain-seconds</name>

        <value>604800</value>

    </property>

</configuration>

core-site.xml、最後の2つの属性のszcは独自のユーザー名に置き換えられ、hadoop.tmp.dirに対応するディレクトリも自分で作成する必要があることに注意してください

<configuration>

    <property>

        <name>fs.defaultFS</name>

        <value>hdfs://192.168.57.141:8020</value>

    </property>



    <property>

        <name>hadoop.tmp.dir</name>

        <value>/home/szc/cdh/hadoop-2.5.0-cdh5.3.6/data/tmp</value>

    </property>



    <property>

        <name>hadoop.proxyuser.szc.hosts</name>

        <value>*</value>

    </property>



    <property>

        <name>hadoop.proxyuser.szc.groups</name>

        <value>*</value>

    </property>


    <property>

        <name>hadoop.proxyuser.root.hosts</name>

        <value>*</value>

    </property>



    <property>

        <name>hadoop.proxyuser.root.groups</name>

        <value>*</value>

    </property

</configuration>

奴隷

192.168.57.141

上記のすべてのIPは、centosのネイティブIPです。

 

3.hdfsをフォーマットします

hadoop解凍ディレクトリのbinディレクトリに切り替えて、コマンドを実行します

#hdfs namenode -format

完成後のスクリーンショットは以下の通りです

 

4.対応するプロセスを開始します

hadoop解凍ディレクトリのsbinディレクトリに切り替え、start-dfs.sh、start-yarn.shを実行してhdfsとyarnを起動し、次のコマンドを実行してhistoryserverを起動します。

./mr-jobhistory-daemon.sh start historyserver

 

5.クラスターのUIインターフェースを表示するWindowsブラウザー

最初にポート50070を開きます

[root@localhost sbin]# firewall-cmd --add-port=50070/tcp --permanent

success

[root@localhost sbin]# firewall-cmd --reload

success

次に、Windowsブラウザにcentos ip:50070と入力すると、Enterキーを押すと次のインターフェイスが表示されます。

 

これまでのところ、Hadoopのデプロイは完了しています

結論

上記、ありがとう

おすすめ

転載: blog.csdn.net/qq_37475168/article/details/107304245