擬似Lesson5のHadoopディストリビューション履歴サーバモードの設定、ログファイルと設定の高分子の指示

まず、サーバーの設定履歴:

1.  配置mapred-site.xml:

<!--历史服务器端地址-->
<property> 
	<name>mapreduce.jobhistory.address</name>
	<value>node1:10020</value> 
</property>

<!--历史服务器Web端地址-->
<property> 
	<name>mapreduce.jobhistory.webapp.address</name>
	<value>192.168.122.1:19888</value> 
</property>

 ホスト名は、ノード1に変更します

 ネットワーク内192.168.122.1のIPアドレスの変更は、見るためにifconfigコマンドを入力します。

 プロファイルへの添加が完了した後 

2.履歴サーバを起動します。サービス履歴を開始するには、次のコマンドを入力します。

sbin/mr-jobhistory-daemon.sh start historyserver

  入力JPSはサービスがオンになっていることがわかります

  

3.レビュー履歴サーバ:直接入力のhttp://ノードB1:19888 / jobhistory見ます

 完全な実行プログラムについて、あなたは履歴ビューをクリックすることができます

 

第二に、ログの集約: 

1.はじめに: 

ログの集約コンセプト:アプリケーションの完成を実行した後、プログラムはHDFSにアップロードされたログ情報を実行します。

ログ集約のメリット:あなたが実行している、簡単に開発およびデバッグの詳細を簡単に表示することができます。

注:ログ集計機能を有効にするには、ノードマネージャ、のResourceManagerとHistoryManagerにを再起動する必要があります。

2. [設定糸-site.xmlの:次の行を追加します。

<!--日志聚合功能使能-->
<property> 
	<name>yarn.log-aggregation-enable</name>
	<value>true</value> 
</property>

<!--日志保留时间设置为七天-->
<property> 
	<name>yarn.log-aggregation.retain-seconds</name>
	<value>604800</value> 
</property>

3.サービスを再起動します。

 閉じるサービス

sbin/mr-jobhistory-daemon.sh stop historyserver

sbin/yarn-daemon.sh stop nodemanager

sbin/yarn-daemon.sh stop resourcemanager


 サービス開始

sbin/yarn-daemon.sh start nodemanager

sbin/yarn-daemon.sh start resourcemanager

sbin/mr-jobhistory-daemon.sh start historyserver

WORDCOUNTプログラムを再実行します。

hdfs dfs -rm -r /user/root/output

hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.2.jar wordcount /user/root/input /user/root/output

4.ログの表示:プログラムのクリック履歴を完了するまで実行して、ログをクリックして、ログを表示することができますします

 

 第三に、プロファイルの説明:

デフォルトの設定ファイルとカスタムプロファイル:Hadoopの設定ファイルは、次の2つのカテゴリに分かれています。ユーザーがデフォルトの設定値のいずれかを変更したい場合のみ、唯一の適切な属性値を変更し、カスタム設定ファイルを変更する必要があります。

1.デフォルトの設定ファイル:

デフォルトのファイルを取得するには

保存されたファイルのHadoop さんのjar パッケージ位置

コア- default.xmlの

Hadoopの共通-2.7.2.jar /コア- default.xmlの

HDFS-default.xmlの

HadoopのHDFS--2.7.2.jar / HDFS-default.xmlの

yarn- default.xmlの

Hadoopの糸共通-2.7.2.jar / yarn- default.xmlの

mapred-default.xmlの

HadoopのMapReduceの-クライアントコア-2.7.2.jar / mapred-defaulr.xml

2.カスタマイズ設定ファイル:

コアsite.xmlの、HDFS-site.xmlの、糸site.xmlの、mapred-site.xmlの

4つの設定ファイルは$ HADOOP_HOMEの/ etc / Hadoopのパスに保存され、ユーザーは、プロジェクトの要件に応じて再構成することができます。

 

 

公開された45元の記事 ウォン称賛30 ビュー10000 +

おすすめ

転載: blog.csdn.net/sinat_40471574/article/details/104928876