超詳細なHadoopインストール(SSHパスワードなしのログイン、詳細なグラフィックとテキスト、初心者には必見)

Hadoop疑似配布インストール(SSHパスワードなしのログインで、収集して確認してください)

 

目次

Hadoop疑似配布インストール(SSHパスワードなしのログインで、収集して確認してください)

1つ:インストール前の準備

2:jdkのインストール、Java環境の構成

3:疑似分散Hadoop環境のインストール

4:SSHパスワードなしのログイン設定[簡単な起動]

5:要約


 

1つ:インストール前の準備

インストール前の作業:仮想マシンとLinuxシステムがインストールされており、hadoopインストールパッケージとjdkインストールパッケージの準備ができていることを確認します

使用できるインストールツールとネットワークディスクのダウンロードリンクは次のとおりです[ピックアップ]。

  1. hadoop-2.7.7.ta​​r.gz

リンク:https 
://pan.baidu.com/s/18tMvslkfjyulrip9-2IitQ抽出コード:aoye 

     2. jdk-8u211-linux-x64.tar

リンク:https 
://pan.baidu.com/s/1lGoPs6zwmkysw4uW2PhXag抽出コード:aoye 

     3.WinSCP-5.17.5-セットアップ

リンク:https 
://pan.baidu.com/s/137BmJIktaGzN0p4fylbUhQ抽出コード:aoye 
 

2:jdkのインストール、Java環境の構成

1.hadoop-2.7.7.ta​​r.gzインストールパッケージとjdk-8u211-linux-x64.tarインストールパッケージをLinuxシステムにアップロードします[Windowsシステムのインストールパッケージはwinscpツールを使用してLinuxシステムにアップロードできます]

   

2.インストールパッケージをルートディレクトリの/ optディレクトリに配置します[インストールパッケージをアップロードするときに、対応するディレクトリを選択できます。後で移動することもできます]

3.jdkを構成します[/ optの下にディレクトリjdkを作成し、ファイルの下にjdkを解凍します]

4. / etc / profileディレクトリで環境変数とスタートアッププログラムを設定し、次のように入力します。vi/ etc / profile  [ iを押して編集モード入り、編集後、esc押してから:wqと入力して保存して終了します]

#JAVA ENV
export JAVA_HOME = / jdk unzip directory
export PATH = $ JAVA_HOME / bin:$ PATH

5.更新して編集したファイルを有効にし、次のように入力します:source / etc / profile

6. Java環境が正常にインストールされているかどうかを確認するには、次のように入力します。java-version 

 

3:疑似分散Hadoop環境のインストール

Hadoopインストールモード:ローカルインストール、疑似分散インストール、完全分散インストール

インストールプロセス:インストールパッケージを解凍します-環境を構成します-5つの構成ファイルを変更します-namenodeをフォーマットします-hadoopを開始します

 

1.hadoop-2.7.7.ta​​r.gzインストールパッケージを解凍します[ / optディレクトリにhadoopディレクトリ作成し、そのディレクトリhadoop-2.7.7.ta​​r.gzを抽出します]

解凍後のディレクトリは次のとおりです。

2.Hadoop環境を構成します[ / etc / profileディレクトリで構成し、vi / etc / profile入力し、iを押して編集モード入り、esc押してから:wqと入力して保存し、編集後に終了します]

#HADOOP ENV
export HADOOP_HOME = / hadoop解圧目录exportPATH
= $ HADOOP_HOME / bin:$ HADOOP_HOME / sbin:$ PATH

3.更新してファイルを有効にし、環境構成が成功したかどうかを確認します[更新:source / etc / profile   ;構成が成功したかどうかを確認します:hadoop ]

4.hadoop解凍ディレクトリの下に/ etc / hadoopディレクトリを入力します[例:cd /opt/hadoop/hadoop-2.7.7/etc/hadoop]

5.5つの構成のいずれかを変更します。hadoop-env.sh[ iを押して編集モード入り、編集後、esc押してから:wqと入力して保存して終了します]

6.5つの構成ファイルのいずれかを変更します。hdfs-site.xml[../ etc / hadoopディレクトリに入力します:vi hdfs-site.xml ]

<property>
    <name> dfs.replication </ name>
    <value> 1 </ value>
</ property>
<property>
    <name> dfs.permissions </ name>
    <value> 1 </ value>
</ property>

7.5つの構成ファイルの1つを変更します。core-site.xml

 <property>
       <name> fs.defaultFS </ name>
       <value> hdfs://主机名:9000 </ value>
    </ property>
    <property>
       <name> hadoop.tmp.dir </ name>


       #tmp      ディレクトリは、対応するディレクトリ<value> /opt/hadoop/hadoop-2.7.7/tmp </ value>
    </ property>に作成する必要があります。

8.5つの構成ファイルのいずれかを変更します。mapred-site.xml[この構成ファイルがない場合は、mapred-site.xml.templateをコピーして生成し、次のように入力します。cpmapred-site.xml.template mspred-site.xml ]

  <property>
       <name> mapreduce.framwork.name </ name>
       <value> yarn </ value>
    </ property>

9.5つの構成ファイルのいずれかを構成します。yarn-site.xml

<property>
    <name> yarn-resourcemanager.hostname </ name>
    <value>主机名</ value>
</ property>
<property>
    <name> yarn.nodemanager.aux-services </ name>
    <value> mapreduce_shuffle < / value>
</ property>

10. namenodeをフォーマットします[hadoop解凍のメインディレクトリに戻り、binディレクトリに入り、フォーマットするコマンドを入力します:hdfs namenode -format ]

成功後のスクリーンショットは次のとおりです。

[フォーマットエラーがある場合は、報告されたログに従って検索できます。変更された構成ファイルにエラーがないはずです。

11.hadoopを開始します[hadoopインストールディレクトリの下に/ sbinディレクトリを入力し、開始するコマンドを入力します ./ start-all.sh ]

注:パスワードを複数回入力する必要があるため、面倒です。最後に、パスワードなしのログイン構成が提供されます(Hadoopを起動するためにパスワードを複数回入力する必要はありません)。パスワード入力はありません。表示されたら、入力後にEnterキーを押すだけです。

12.正常に起動した後、次の5つのプロセスが必要です[namenode、datanode、secondarynamenode、resourcemanager。nodemanager]、表示するには入力してください:  jps

13. Hadoopが構成され、正常に開始されました。ブラウザーにポート番号を入力して、Webページにアクセスできます。ホスト名:50070

ページにアクセスできないという問題があります。これは次の方法で解決できます。

1.ファイアウォールのステータスを確認し、ファイアウォールをオフにします。

2. Windows側のIPマッピングを構成します[次のディレクトリを入力します:C:\ Windows \ System32 \ drivers \ etc、hostsファイルを変更してLinuxホストのIPとホスト名を追加します。保存して終了することを忘れないでください]

 

4:SSHパスワードなしのログイン設定[簡単な起動]

1. hadoopを閉じます[sbinディレクトリの下:./ stop-all.sh]

2. /root/.sshディレクトリに入ります:cd〜/ .ssh

3. ssh-keygen -t rsaと入力します[3回入力して、2つのファイルid_rsa(秘密鍵)、id_rsa.pub(共有鍵)を生成します]

4.ssh-copy-idホスト名[公開鍵をマシンにコピーしてパスワードなしでログインする]

5.設定後は、次のようになります[起動後にパスワードを入力する必要はありません]

5:要約

上記は、Hadoop疑似配布のインストールとパスワードなしのログインです。不明な場所については多くの説明があります。

 

 

 

 

 

 

おすすめ

転載: blog.csdn.net/m0_46440794/article/details/115256984