まず、サーバーの設定履歴:
1. 配置mapred-site.xml:
<!--历史服务器端地址-->
<property>
<name>mapreduce.jobhistory.address</name>
<value>node1:10020</value>
</property>
<!--历史服务器Web端地址-->
<property>
<name>mapreduce.jobhistory.webapp.address</name>
<value>192.168.122.1:19888</value>
</property>
ホスト名は、ノード1に変更します
ネットワーク内192.168.122.1のIPアドレスの変更は、見るためにifconfigコマンドを入力します。
プロファイルへの添加が完了した後
2.履歴サーバを起動します。サービス履歴を開始するには、次のコマンドを入力します。
sbin/mr-jobhistory-daemon.sh start historyserver
入力JPSはサービスがオンになっていることがわかります
3.レビュー履歴サーバ:直接入力のhttp://ノードB1:19888 / jobhistory見ます
完全な実行プログラムについて、あなたは履歴ビューをクリックすることができます
第二に、ログの集約:
1.はじめに:
ログの集約コンセプト:アプリケーションの完成を実行した後、プログラムはHDFSにアップロードされたログ情報を実行します。
ログ集約のメリット:あなたが実行している、簡単に開発およびデバッグの詳細を簡単に表示することができます。
注:ログ集計機能を有効にするには、ノードマネージャ、のResourceManagerとHistoryManagerにを再起動する必要があります。
2. [設定糸-site.xmlの:次の行を追加します。
<!--日志聚合功能使能-->
<property>
<name>yarn.log-aggregation-enable</name>
<value>true</value>
</property>
<!--日志保留时间设置为七天-->
<property>
<name>yarn.log-aggregation.retain-seconds</name>
<value>604800</value>
</property>
3.サービスを再起動します。
閉じるサービス
sbin/mr-jobhistory-daemon.sh stop historyserver
sbin/yarn-daemon.sh stop nodemanager
sbin/yarn-daemon.sh stop resourcemanager
サービス開始
sbin/yarn-daemon.sh start nodemanager
sbin/yarn-daemon.sh start resourcemanager
sbin/mr-jobhistory-daemon.sh start historyserver
WORDCOUNTプログラムを再実行します。
hdfs dfs -rm -r /user/root/output
hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.2.jar wordcount /user/root/input /user/root/output
4.ログの表示:プログラムのクリック履歴を完了するまで実行して、ログをクリックして、ログを表示することができますします
第三に、プロファイルの説明:
デフォルトの設定ファイルとカスタムプロファイル:Hadoopの設定ファイルは、次の2つのカテゴリに分かれています。ユーザーがデフォルトの設定値のいずれかを変更したい場合のみ、唯一の適切な属性値を変更し、カスタム設定ファイルを変更する必要があります。
1.デフォルトの設定ファイル:
デフォルトのファイルを取得するには |
保存されたファイルのHadoop さんのjar パッケージ位置 |
コア- default.xmlの |
Hadoopの共通-2.7.2.jar /コア- default.xmlの |
HDFS-default.xmlの |
HadoopのHDFS--2.7.2.jar / HDFS-default.xmlの |
yarn- default.xmlの |
Hadoopの糸共通-2.7.2.jar / yarn- default.xmlの |
mapred-default.xmlの |
HadoopのMapReduceの-クライアントコア-2.7.2.jar / mapred-defaulr.xml |
2.カスタマイズ設定ファイル:
コアsite.xmlの、HDFS-site.xmlの、糸site.xmlの、mapred-site.xmlの
4つの設定ファイルは$ HADOOP_HOMEの/ etc / Hadoopのパスに保存され、ユーザーは、プロジェクトの要件に応じて再構成することができます。