Hadoopの(X):ローカルIDEAリンクリモートHadoopの

ファイルの異なるバージョンが適切なバージョンをダウンロードする場合のHadoop 2.7.7は、本明細書中で使用されています

  1. 地元の図書館のHadoopの構成(フルインストールせずに、しかし、環境のサポートがなければなりません)

ファイルのダウンロード

https://github.com/speedAngel/hadoop2.7.7

  1. 任意のパスに解凍し、何の漢字やスペースがありません

 

 

  1. パケット抽出経路を抽出するあるいはビン

  2. CにHadoop.dllでビンをコピー:\ WINDOWS \ System32にします

  3. 設定の環境変数

HADOOP_HOME D:\環境\のHadoop-2.7.7 
HADOOP_CONF_DIR D:\環境\ Hadoopの -2.7.7 \ ETC \ Hadoopの
YARN_CONF_DIR  %HADOOP_CONF_DIR%の
PATH  %HADOOP_HOME%\ binに

 

  1. ローカルパスIDEAのHadoopを設定します

 

 

  1. 輸入依存(注同じバージョンという)

    <依存性>
        <依存>
            <groupIdを> JUnitの</ groupIdを>
            <たartifactId> JUnitの</たartifactId>
            <バージョン> 4.12 </バージョン>

        </依存関係>
        <依存>
            <groupIdを> org.apache.hadoop </ groupIdを>
            <たartifactId> Hadoopの共通</たartifactId>
            <バージョン> 2.7.7 </バージョン>
        </依存関係>
        <依存>
            <groupIdを> org.apache.hadoop </ groupIdを>
            <たartifactId> HadoopのHDFS-</たartifactId>
            <バージョン> 2.7.7 </バージョン>
        </依存関係>
        < -のhttps:// mvnrepository.com/artifact/org.apache.hadoop/hadoop-mapreduce-client-core - >
        <依存>
            <groupIdを> org.apache.hadoop </ groupIdを>
            <たartifactId> HadoopのMapReduceの-クライアントコア</たartifactId>
            <バージョン> 2.7.7 </バージョン>
        </依存関係>
        <依存>
            <groupIdを> org.apache.hadoop </ groupIdを>
            <たartifactId> HadoopのMapReduceの--クライアントjobclient </たartifactId>
            <バージョン> 2.7.7 </バージョン>
        </依存関係>
        <依存>
            <groupIdを>コモンズ-CLI </ groupIdを>
            <たartifactId>コモンズ-CLI </たartifactId>
            <バージョン> 1.3.1 </バージョン>
        </依存関係>
        <依存>
            <groupIdを> org.apache.hadoop </ groupIdを>
            <たartifactId> Hadoopのクライアント</たartifactId>
            <バージョン> 2.7.7 </バージョン>
        </依存関係>
        <依存>
            <groupIdを> mysqlの</ groupIdを>
            <たartifactId>のmysql-コネクタ-javaの</たartifactId>
            <バージョン> 8.0.19 </バージョン>
        </依存関係>
        <! - ツールは、オブジェクトをコピーすることができます - >
        < -のhttps:// mvnrepository.com/artifact/commons-beanutils/commons-beanutils - >
        <依存>
            <groupIdを>コモンズ-々BeanUtils </ groupIdを>
            <たartifactId>コモンズ-々BeanUtils </たartifactId>
            <バージョン> 1.9.4 </バージョン>
        </依存関係>
    </依存関係>

 

  1. 次のプロジェクトへのコア-site.xmlのとHDFS-site.xmlファイルクラスタリソースのパス。IPアドレスを変更します。

  • コア-site.xmlに

<?xml version = "1.0" エンコード= "UTF-8"?>
<?xmlの-スタイルシートタイプ= "テキスト/ XSL" のhref = "configuration.xsl"?>
<設定>
  <プロパティ>
    <名前> fs.defaultFS </名前>
    <値> HDFS:// 192.168.98.129:9000 </ value>の
  </プロパティ>
  <プロパティ>
    <名前> hadoop.tmp.dir </名前>
    <値> /usr/hop/hadoop-2.7.7/data/hopdata </ value>の
  </プロパティ>
</設定>

 


     
  • HDFS-site.xmlの

<?xml version = "1.0" エンコード= "UTF-8"?>
<?xmlの-スタイルシートタイプ= "テキスト/ XSL" のhref = "configuration.xsl"?>
<! - 
  Apacheライセンスの下でライセンス、バージョン 2.0(「ライセンス」)。
  あなたが使用することはできません。このライセンスに準拠した以外のファイルを。
  あなたは時にライセンスのコピーを入手することができます

    http:// www.apache.org/licenses/LICENSE-2.0

  適用される法律または書面での合意がない限り、ソフトウェア
  ライセンスの下で配布さが上に分散された「AS IS」BASIS、
  いかなる種類の保証または条件なし、明示または黙示のいずれか。
  ライセンスを参照してくださいするために権限を管理する特定の言語と
  ライセンスの下で制限。付属のLICENSEファイルを参照してください。
- >

<! -で、サイト固有のプロパティのオーバーライドを入れて、このファイル。- >

<設定>
  <プロパティ>
    <名前> dfs.namenode.secondary.httpアドレス</名前>
    <値> 192.168.98.130:50090 </ value>の
  </プロパティ>
  <プロパティ>
    <名前> dfs.replication </名前>
    <値> 2 </値>
  </プロパティ>
</設定>

 


  • 追加された最初の行のメインメソッドの実行

        するSystem.setProperty( "HADOOP_USER_NAME"、 "ルート" );
        するSystem.setProperty( "HADOOP_USER_PASSWORD"、 "PASSWORD");

 

 

おすすめ

転載: www.cnblogs.com/renzhongpei/p/12635267.html