ビルドに操作の完全分散モードをHadoopの

IP名対応表

192.168.1.43    

rjsoft-0001

192.168.1.99

rjsoft-0002

192.168.1.113

rjsoft-0003

構成表

 

rjsoft-0001

rjsoft-0002

rjsoft-0003

HDFS

 

名前ノード

データノード

 

データノード

SecondaryNameNode

データノード

 

ノードマネージャ

このResourceManager

ノードマネージャ

 

ノードマネージャ

 

1、のconfigure SSHログインのない秘密

2、ファイル構成ファイルを変更します

(1)コアプロファイル

配置core-site.xml

[CSG @ rjsoft-0001のHadoop] $ viのコア-site.xmlに

コンフィギュレーション・ファイルに次のように書きます

< - -指定HDFS名前ノードアドレス!> 
<プロパティ> 
        <名前> fs.defaultFS </名前> 
      <値> HDFS:// rjsoft-0001:9000 </ value>の 
</プロパティ> 

<! -ファイル格納ディレクトリを生成する実行指定のHadoop - > 
<プロパティ> 
        <名前> hadoop.tmp.dir </名前> 
        <値> /opt/module/hadoop-2.7.2/data/tmp </ value>の
</プロパティ>

(2)HDFSプロファイル

  設定hadoop-env.sh

[CSG @ rjsoft-0001のHadoop] $ viのhadoop- env.sh 
輸出JAVA_HOME =は/ opt /モジュール/ jdk1.8.0_144

  設定HDFS-site.xmlの

[CSG @ rjsoft-0001のHadoop] $ viのHDFS-site.xmlの
  <プロパティ> 
        <名前> dfs.replication </名前> 
        <値> 3 </ value>の
    </ property>の

    <! -指定のHadoop辅助名称节点主机配置- > 
    <プロパティ> 
        <名前> dfs.namenode.secondary .httpアドレス</名前> 
        <値> rjsoft-0003:50090 </ value>の
    </ property>の
    

(3)糸プロファイル

  設定yarn-env.sh

[CSG @ rjsoft-0001のHadoop] $ viのyarn- env.sh 
輸出JAVA_HOME =は/ opt /モジュール/ jdk1.8.0_144

  配置yarn-site.xml

[CSG @ rjsoft-0001のHadoop] $ viの糸-site.xmlに

  増加は、ファイルを次の

<! -リデューサー获取数据的方式- > 
<プロパティ> 
        <名前> yarn.nodemanager.aux-サービス</名前> 
        <値> mapreduce_shuffle </ value>の
</ property>の

<! -指定YARN的のResourceManager的地址- > 
<プロパティ> 
        <名前> yarn.resourcemanager.hostname </名前> 
        <値> rjsoft-0002 </ value>の
</ property>の

(4)MapReduceのプロファイル

  設定mapred-env.sh

[CSG @ rjsoft-0001のHadoop] $ viのmapred- env.sh 
輸出JAVA_HOME =は/ opt /モジュール/ jdk1.8.0_144

  配置mapred-site.xml

[CSG @ rjsoft-0001のHadoop] $ cpはmapred-site.xml.template mapred- site.xmlの

[CSG @ rjsoft -0001のHadoop] $ viのmapred-site.xmlに

増加は、ファイルを次の

<! -指定MR运行在糸上- > 
<プロパティ> 
        <名前> mapreduce.framework.name </名前> 
        <値>糸</ value>の
</ property>の

3。クラスタ構成のHadoopの設定ファイル上の良好な分布

[CSG @ rjsoft-0001のHadoop] $ XSYNC /opt/module/hadoop-2.7.2/

4。ドキュメントのステータスを確認

[CSG @ rjsoft-0002のHadoop] $猫/opt/module/hadoop-2.7.2/etc/hadoop/core-site.xml

コンフィギュレーション・スレーブ

/opt/module/hadoop-2.7.2/etc/hadoop/ 奴隷
[CSG @ rjsoft -0001のHadoop] $ viの奴隷

ファイルを追加します(3台のマシンを追加する必要があります)

rjsoft-0001 
rjsoft -0002 
rjsoft -0003

注:スペースを追加し、ファイルの内容の終了を許可しない、空行がファイルに許可されていません。

クラスタ開始

図1に示すように、単一ノード開始

1 つのノードが起動と停止のHadoop:
参考URL:HTTPS://はwww.cnblogs.com/xym4869/p/8821312.html 

ディレクトリをHadoopを入力します。

名前ノードをフォーマットします。binは /名前ノードをHDFS - フォーマット(初回のみあなたが開始しますフォーマットする必要があります)

sbinに:名前ノードを開始する / hadoop- 名前ノードを開始daemon.shを

開始データノードを:sbinに / hadoop- daemon.shデータノードが起動し

正常に起動したかどうかを確認:JPSは、

名前ノードを停止します。sbinに / hadoop- daemons.sh STOP名前ノード

停止データノード:sbinに / hadoop- daemons.sh STOPのdataname 

ウェブ端末アクセス使用します。http:// IPアドレス:9870

糸開始とのMapReduceに単一のノードを実行する
 1 起動して名前ノードDataNodes確実にするために、)第
 2)スタートのResourceManager sbinに/ yarn- daemon.shスタートのResourceManager
。3)開始sbinにノードマネージャ/ yarn- daemon.shスタートノードマネージャ
 4)閉じるのResourceManager sbinに/ yarn- STOPのResourceManager daemon.sh
 5)ノードマネージャ/ yarn-閉じsbinにノードマネージャdaemon.sh STOP
ページを表示する6)糸ブラウザ:HTTP:// IPアドレス:8088 /クラスタを

2、クラスタ開始

ディレクトリsbinにHadoopのディレクトリを入力
 1)全体のスタート/ ストップHDFS 

              スタート -dfs.sh / STOP- dfs.sh 
 2)全体のスタート/ ストップYARN 

              スタート -yarn.sh / stop-yarn.sh

 

 

 

おすすめ

転載: www.cnblogs.com/csgbpd/p/12510612.html