序文
値のペアの仕方によって:アズカバンLinkedInの会社は主に、ワークフローの特定の順序に仕事とプロセスのセットを操作するため、一括ワークフロータスクスケジューラによって立ち上げ、その構成が簡単なキーがありますコンフィギュレーションの依存関係に提供する依存関係。タスク間の依存関係を確立するためのジョブプロファイルのアズカバンの使用、およびワークフローを維持し、追跡するために、Webユーザインターフェイスを使用して簡単に提供します。
環境の準備
Javaプロセスは、Java仮想マシン上で実行されているので、あなたはJava環境を設定する必要があります!アドバイスは1.8を超えています。それは例えば、低、バージョン1.5の場合は、メモリ不足が発生することがあります!
展開は、著者を次の
MySQLのリモートログインがマシン102を介してアカウント、操作は、データテーブル上で実行しました!アズカバンはに設立されたのMySQLのテーブル作成、mysqlのコンソールテーブルで解凍を実行するためにアズカバン-SQLスクリプト経由に頼る作成-すべて-SQL-2.5.0.sqlスクリプトを!
アズカバンの以下のバージョンを選択します。
簡単な紹介
- AzkabanWebServer:AzkabanWebServerアズカバンは、メインユーザのログイン認証のための責任があるマネージャ全体のワークフローシステム、プロジェクト管理、ワークフローの実行のタイミング、一連のタスクの実行の進行状況を追跡するワークフローです。
- AzkabanExecutorServer:具体的な作業の流れの責任は、そのタスクはMySQLのデータベースによって実行されている調整するために、実装を提出しました。
- リレーショナルデータベース(MySQLの):データベースにアクセスするためにほとんどの店の実行フロー状態、AzkabanWebServerとAzkabanExecutorServer必要。
インストール
ディレクトリを作成し
、ディレクトリアズカバンを作成するには、以下の/ opt /モジュールに
mkdir azkaban
エグゼキュータの解凍
/ opt /モジュール/アズカバンのエキス
tar -zxvf azkaban-executor-server-2.5.0.tar.gz -C /opt/module/azkaban
サーバーの解凍
tar -zxvf azkaban-web-server-2.5.0.tar.gz -C /opt/module/azkaban
SQLスクリプトの解凍
tar -zxvf tar -zxvf azkaban-web-server-2.5.0.tar.gz -C /opt/module/azkaban
インストールとインポート・データベースのSQL mysqlの
mysql5.6をインストールする前に行われ、ここにリンクを掲載しています。データベースのインストール
、次のデータベース操作を!
- rootアカウントのリモート接続102上の103!クライアント(およびサーバーのバージョンが一致している必要があります!)が提供されます!
mysql -h hadoop102 -P3306 -uroot -p
- 上でコマンドを実行するために接続した後
source /opt/module/azkaban/azkaban-2.5.0/create-all-sql-2.5.0.sql
- データベーストランザクションがコミットされるように終了しました!
設定アズカバン環境
生成keystore
- keytoolは、ユーザーが自分の公開鍵/秘密鍵のペアと関連する証明書を管理することを可能にするJavaの証明書データ管理ツールです。
- (ファイルの.keystore生成された情報のすべての種類が存在するであろう)鍵データベースの名前と場所を指定する-keystore
- -genkey(又は-genkeypair)鍵ペアを生成します
- -aliasデフォルトが存在しない場合、指定されたキー生成のための別名であることはmykeyです
- 指定された鍵アルゴリズムRSA -keyalg / DSAデフォルトDSAです
keytool -keystore keystore -alias jetty -genkey -keyalg RSA
上記のコマンドを実行するためのディレクトリはどこのファイルを生成します!
ファイルを移動アズカバンWebサーバーのルートディレクトリ
mv keystore /opt/module/azkaban/server/
時刻同期の設定
すでにタイムゾーン上海、選択したシステムをインストールした場合、唯一の同期タイムマシンに同期要求を行うことができますcrontabのスケジュールされたタスクを実行するために他のサーバーに同期時にNTPサービスを開く必要があります!
NTP時刻同期サービスを構成する方法!クリック!!
あなたは良い時間の同期を持っている場合は、以下の操作は無視されるかもしれません!
sudo crontab -e
タイムゾーンを設定するには良いサーバー・ノード上の
タイムゾーンの設定ファイルアジア/上海では、/ usr / share / zoneinfoの/ディレクトリが存在しない場合)1を、tzselectを生成する必要があります。
[zhengkw@hadoop103 azkaban]$ tzselect
タイムゾーンのルールを設定することができますので、その場所を特定してください
正しく。大陸や海を選択してください。1)アフリカ2)米州
3)南極大陸4)北極海5)アジア 6)大西洋7)
オーストラリア8)ヨーロッパ9)インド洋10)太平洋11)なし-私は
POSIXのTZ形式を使用して、タイムゾーンを指定したいです。
选择5亚洲
#? 5
国を選択してください。1)アフガニスタン18)イスラエル
35)パレスチナ2)アルメニア19)日本36)
フィリピン3)アゼルバイジャン20)ヨルダン37)
カタール4)バーレーン21)カザフスタン38)ロシア
5)バングラデシュ22)韓国(北)39)サウジアラビア
6 )ブータン23)大韓民国40)シンガポール7)
ブルネイ24)クウェート41)スリランカ8)
カンボジア25)キルギスタン42)シリア9)中国
26)ラオス43)台湾10)キプロス27)
レバノン44)タジキスタン11)東ティモール28)
マカオ45)タイ12)ジョージア29)
マレーシア46)トルクメニスタン13)香港30)
モンゴル47)アラブ首長国連邦14)インド
31)ミャンマー(ビルマ)48)ウズベキスタン32)15)インドネシア
ネパール49)ベトナム16)イラン33)オマーン
50)イエメン17)イラク34)パキスタン
中国陶磁器を選択します!
#? 9
以下のタイムゾーンの領域の1つを選択してください。1)北京時間
2)新疆の時間
選択GMT
#? 1
次の情報が与えられています。
China Beijing Time
したがって、TZ =「アジア/上海」が使用されます。現地時間は今です:木
10月18日夜04時24分23秒CST 2018世界時は今です:木10月18日8時24分23秒
UTC 2018上記の情報OKですか?1)はい2)いいえ
#? 1
あなたは、行追加することによって、自分のために、この変更を永続的にすることができ
TZ =「アジア/上海」; あなたのホームディレクトリにあるファイル「の.profile」へのエクスポートTZ。その後、ログアウトして再度ログインします。あなたがそのようここではそのTZ値は、この時間は、標準出力に、再び
シェルスクリプトでは/ usr / binに/ tzselectコマンドを使用することができます:アジア/上海
2)タイム・ゾーン・ファイル、オーバーレイシステムのローカルタイムゾーンの設定をコピーします。
[zhengkw@hadoop103 azkaban]$ cp /usr/share/zoneinfo/Asia/Shanghai /etc/localtime
3)クラスタ時刻同期化(以上3つのウィンドウに)
[zhengkw@hadoop103 azkaban]$ sudo date -s '2018-10-18 16:39:30'
コンフィギュレーション・エグゼキュータ
/ opt /モジュール/アズカバン/エグゼ/ confに開きます
#Azkaban
#时区
default.timezone.id=Asia/Shanghai
# Azkaban JobTypes Plugins
#jobtype 插件所在位置
azkaban.jobtype.plugin.dir=plugins/jobtypes
#Loader for projects
executor.global.properties=/opt/module/azkaban/executor/conf/global.properties
azkaban.project.dir=projects
database.type=mysql
mysql.port=3306
mysql.host=hadoop102
mysql.database=azkaban
mysql.user=root
mysql.password=sa
mysql.numconnections=100
# Azkaban Executor settings
#最大线程数
executor.maxThreads=50
#端口号(如修改,请与web服务中一致)
executor.port=12321
#线程数
executor.flow.threads=30
設定サーバー
修正/opt/module/azkaban/server/conf/azkaban.properties
Eメール通知の設定
/opt/module/azkaban/server/conf/azkaban.propertiesで次のパラメータを追加します!
送信メールサーバにホスト
第三者認証コードへのパスワード
認証コードを取得
アズカバン-users.xmlのを修正
次の設定ファイルによると、アズカバンのWebサーバーのインストールディレクトリのconfディレクトリはアズカバン-users.xmlの増加の管理者ユーザーを変更しました
<azkaban-users>
<user username="azkaban" password="azkaban" roles="admin" groups="azkaban" />
<user username="metrics" password="metrics" roles="metrics"/>
<user username="zhengkw" password="qweasd" roles="admin,metrics" groups="azkaban" />
<role name="admin" permissions="ADMIN" />
<role name="metrics" permissions="METRICS"/>
</azkaban-users>
サービス開始
スタートキュータ
[zhengkw@hadoop103 executor]$ pwd
/opt/module/azkaban/executor
[zhengkw@hadoop103 executor]$ bin/azkaban-executor-start.sh
スタートウェブ
[zhengkw@hadoop103 server]$ pwd
/opt/module/azkaban/server
[zhengkw@hadoop103 server]$ bin/azkaban-web-start.sh
JPSを参照してください。
ブラウザテストを開きます。
とき着陸ここでは、HTTPSサービスの設定は、暗号化のためにSSL暗号化証明書の使用は、それがキーツール証明書によって生成されるため、権限が生成されない、パケット伝送のセキュリティを確保するために、これは初めてのアラームがあるでしょう!
HTTPSを入力します:// hadoop103:8443
クリックして内部を見学し続けること
ユーザーが設定可能なユーザログインページの入力
に成功訪問
閉じるサービス
ウェブ
bin/azkaban-web-shutdown.sh
EXEC
bin/azkaban-executor-shutdown.sh
概要
- ログ情報を表示するために時刻同期を注意してください!
- データベースへの接続を設定する際の情報のすべての種類に注意を払う必要があります!
- ウェブ/アズカバン-users.xmlにするのconfigureでAZのconfを上陸を持つユーザー!
- SSLは、起動する別の方法ですが、それは一般的に安全であるように暗号化します!
遭遇ピット
- 証明書は、生産のツールであるため、レベルの情報を警告コンソールに出力されますが、無視することができます!あなたがシールドしたい場合は、印刷のlog4jレベルで変更することができます!
- MySQLの設定エラーでキュータのフロントとして起動した後、データベースに接続できませんによって引き起こされます!しかし、また、ポートが占有引き起こしました!
ポート12321を表示するコマンドを使用します(execの開始ポートを占有)プロセスによって占められ
lsof -i:12321
殺すために強制的に!