アズカバン(キーツールのSSL証明書の生成)を構築します

序文

値のペアの仕方によって:アズカバンLinkedInの会社は主に、ワークフローの特定の順序に仕事とプロセスのセットを操作するため、一括ワークフロータスクスケジューラによって立ち上げ、その構成が簡単なキーがありますコンフィギュレーションの依存関係に提供する依存関係。タスク間の依存関係を確立するためのジョブプロファイルのアズカバンの使用、およびワークフローを維持し、追跡するために、Webユーザインターフェイスを使用して簡単に提供します。

環境の準備

Javaプロセスは、Java仮想マシン上で実行されているので、あなたはJava環境を設定する必要があります!アドバイスは1.8を超えています。それは例えば、低、バージョン1.5の場合は、メモリ不足が発生することがあります!

ここに画像を挿入説明
展開は、著者を次の

ここに画像を挿入説明

MySQLのリモートログインがマシン102を介してアカウント、操作は、データテーブル上で実行しました!アズカバンはに設立されたのMySQLのテーブル作成、mysqlのコンソールテーブルで解凍を実行するためにアズカバン-SQLスクリプト経由に頼る作成-すべて-SQL-2.5.0.sqlスクリプトを!

アズカバンの以下のバージョンを選択します。
ここに画像を挿入説明

簡単な紹介

ここに画像を挿入説明

  • AzkabanWebServer:AzkabanWebServerアズカバンは、メインユーザのログイン認証のための責任があるマネージャ全体のワークフローシステム、プロジェクト管理、ワークフローの実行のタイミング、一連のタスクの実行の進行状況を追跡するワークフローです。
  • AzkabanExecutorServer:具体的な作業の流れの責任は、そのタスクはMySQLのデータベースによって実行されている調整するために、実装を提出しました。
  • リレーショナルデータベース(MySQLの):データベースにアクセスするためにほとんどの店の実行フロー状態、AzkabanWebServerとAzkabanExecutorServer必要。

インストール

ディレクトリを作成し
、ディレクトリアズカバンを作成するには、以下の/ opt /モジュールに

mkdir azkaban

エグゼキュータの解凍

/ opt /モジュール/アズカバンのエキス

tar -zxvf azkaban-executor-server-2.5.0.tar.gz -C /opt/module/azkaban

サーバーの解凍

tar -zxvf azkaban-web-server-2.5.0.tar.gz -C /opt/module/azkaban

SQLスクリプトの解凍

tar -zxvf tar -zxvf azkaban-web-server-2.5.0.tar.gz  -C /opt/module/azkaban

インストールとインポート・データベースのSQL mysqlの

mysql5.6をインストールする前に行われ、ここにリンクを掲載しています。データベースのインストール
、次のデータベース操作を!

ここに画像を挿入説明

  1. rootアカウントのリモート接続102上の103!クライアント(およびサーバーのバージョンが一致している必要があります!)が提供されます!
mysql -h hadoop102 -P3306 -uroot -p
  1. 上でコマンドを実行するために接続した後
source /opt/module/azkaban/azkaban-2.5.0/create-all-sql-2.5.0.sql
  1. データベーストランザクションがコミットされるように終了しました!

設定アズカバン環境

生成keystore

  • keytoolは、ユーザーが自分の公開鍵/秘密鍵のペアと関連する証明書を管理することを可能にするJavaの証明書データ管理ツールです。
  • (ファイルの.keystore生成された情報のすべての種類が存在するであろう)鍵データベースの名前と場所を指定する-keystore
  • -genkey(又は-genkeypair)鍵ペアを生成します
  • -aliasデフォルトが存在しない場合、指定されたキー生成のための別名であることはmykeyです
  • 指定された鍵アルゴリズムRSA -keyalg / DSAデフォルトDSAです
keytool -keystore keystore -alias jetty -genkey -keyalg RSA

ここに画像を挿入説明
上記のコマンドを実行するためのディレクトリはどこのファイルを生成します!
ここに画像を挿入説明
ファイルを移動アズカバンWebサーバーのルートディレクトリ

mv keystore /opt/module/azkaban/server/

時刻同期の設定

すでにタイムゾーン上海、選択したシステムをインストールした場合、唯一の同期タイムマシンに同期要求を行うことができますcrontabのスケジュールされたタスクを実行するために他のサーバーに同期時にNTPサービスを開く必要があります!
NTP時刻同期サービスを構成する方法!クリック!
あなたは良い時間の同期を持っている場合は、以下の操作は無視されるかもしれません!

sudo crontab -e

ここに画像を挿入説明

タイムゾーンを設定するには良いサーバー・ノード上の
タイムゾーンの設定ファイルアジア/上海では、/ usr / share / zoneinfoの/ディレクトリが存在しない場合)1を、tzselectを生成する必要があります。

[zhengkw@hadoop103 azkaban]$ tzselect

タイムゾーンのルールを設定することができますので、その場所を特定してください
正しく。大陸や海を選択してください。1)アフリカ2)米州
3)南極大陸4)北極海5)アジア 6)大西洋7)
オーストラリア8)ヨーロッパ9)インド洋10)太平洋11)なし-私は
POSIXのTZ形式を使用して、タイムゾーンを指定したいです。
选择5亚洲

#? 5

国を選択してください。1)アフガニスタン18)イスラエル
35)パレスチナ2)アルメニア19)日本36)
フィリピン3)アゼルバイジャン20)ヨルダン37)
カタール4)バーレーン21)カザフスタン38)ロシア
5)バングラデシュ22)韓国(北)39)サウジアラビア
6 )ブータン23)大韓民国40)シンガポール7)
ブルネイ24)クウェート41)スリランカ8)
カンボジア25)キルギスタン42)シリア9)中国
26)ラオス43)台湾10)キプロス27)
レバノン44)タジキスタン11)東ティモール28)
マカオ45)タイ12)ジョージア29)
マレーシア46)トルクメニスタン13)香港30)
モンゴル47)アラブ首長国連邦14)インド
31)ミャンマー(ビルマ)48)ウズベキスタン32)15)インドネシア
ネパール49)ベトナム16)イラン33)オマーン
50)イエメン17)イラク34)パキスタン

中国陶磁器を選択します!

#? 9

以下のタイムゾーンの領域の1つを選択してください。1)北京時間
2)新疆の時間

選択GMT

#? 1

次の情報が与えられています。

    China
    Beijing Time

したがって、TZ =「アジア/上海」が使用されます。現地時間は今です:木
10月18日夜04時24分23秒CST 2018世界時は今です:木10月18日8時24分23秒
UTC 2018上記の情報OKですか?1)はい2)いいえ

#? 1

あなたは、行追加することによって、自分のために、この変更を永続的にすることができ
TZ =「アジア/上海」; あなたのホームディレクトリにあるファイル「の.profile」へのエクスポートTZ。その後、ログアウトして再度ログインします。

あなたがそのようここではそのTZ値は、この時間は、標準出力に、再び
シェルスクリプトでは/ usr / binに/ tzselectコマンドを使用することができます:アジア/上海

2)タイム・ゾーン・ファイル、オーバーレイシステムのローカルタイムゾーンの設定をコピーします。

[zhengkw@hadoop103 azkaban]$ cp /usr/share/zoneinfo/Asia/Shanghai /etc/localtime

3)クラスタ時刻同期化(以上3つのウィンドウに)

[zhengkw@hadoop103 azkaban]$ sudo date -s '2018-10-18 16:39:30'

コンフィギュレーション・エグゼキュータ

/ opt /モジュール/アズカバン/エグゼ/ confに開きます

#Azkaban
#时区
default.timezone.id=Asia/Shanghai
# Azkaban JobTypes Plugins
#jobtype 插件所在位置
azkaban.jobtype.plugin.dir=plugins/jobtypes

#Loader for projects
executor.global.properties=/opt/module/azkaban/executor/conf/global.properties
azkaban.project.dir=projects

database.type=mysql
mysql.port=3306
mysql.host=hadoop102
mysql.database=azkaban
mysql.user=root
mysql.password=sa
mysql.numconnections=100

# Azkaban Executor settings
#最大线程数
executor.maxThreads=50
#端口号(如修改,请与web服务中一致)
executor.port=12321
#线程数
executor.flow.threads=30

設定サーバー

修正/opt/module/azkaban/server/conf/azkaban.properties

ここに画像を挿入説明ここに画像を挿入説明

Eメール通知の設定

/opt/module/azkaban/server/conf/azkaban.propertiesで次のパラメータを追加します!

ここに画像を挿入説明

送信メールサーバにホスト
第三者認証コードへのパスワード

認証コードを取得

ここに画像を挿入説明

ここに画像を挿入説明ここに画像を挿入説明

アズカバン-users.xmlのを修正

次の設定ファイルによると、アズカバンのWebサーバーのインストールディレクトリのconfディレクトリはアズカバン-users.xmlの増加の管理者ユーザーを変更しました

<azkaban-users>
        <user username="azkaban" password="azkaban" roles="admin" groups="azkaban" />
        <user username="metrics" password="metrics" roles="metrics"/>
        <user username="zhengkw" password="qweasd" roles="admin,metrics" groups="azkaban" />

<role name="admin" permissions="ADMIN" />
        <role name="metrics" permissions="METRICS"/>
</azkaban-users>

サービス開始

スタートキュータ

[zhengkw@hadoop103 executor]$ pwd
/opt/module/azkaban/executor
[zhengkw@hadoop103 executor]$ bin/azkaban-executor-start.sh

スタートウェブ

[zhengkw@hadoop103 server]$ pwd
/opt/module/azkaban/server
[zhengkw@hadoop103 server]$ bin/azkaban-web-start.sh

JPSを参照してください。

ここに画像を挿入説明

ブラウザテストを開きます。

とき着陸ここでは、HTTPSサービスの設定は、暗号化のためにSSL暗号化証明書の使用は、それがキーツール証明書によって生成されるため、権限が生成されない、パケット伝送のセキュリティを確保するために、これは初めてのアラームがあるでしょう!
HTTPSを入力します:// hadoop103:8443
ここに画像を挿入説明クリックして内部を見学し続けること

ユーザーが設定可能なユーザログインページの入力
ここに画像を挿入説明に成功訪問

閉じるサービス

ウェブ

bin/azkaban-web-shutdown.sh 

EXEC

bin/azkaban-executor-shutdown.sh 

概要

  • ログ情報を表示するために時刻同期を注意してください!
  • データベースへの接続を設定する際の情報のすべての種類に注意を払う必要があります!
  • ウェブ/アズカバン-users.xmlにするのconfigureでAZのconfを上陸を持つユーザー!
  • SSLは、起動する別の方法ですが、それは一般的に安全であるように暗号化します!

ここに画像を挿入説明

遭遇ピット

ここに画像を挿入説明

  • 証明書は、生産のツールであるため、レベルの情報を警告コンソールに出力されますが、無視することができます!あなたがシールドしたい場合は、印刷のlog4jレベルで変更することができます!
  • MySQLの設定エラーでキュータのフロントとして起動した後、データベースに接続できませんによって引き起こされます!しかし、また、ポートが占有引き起こしました!
    ここに画像を挿入説明

ポート12321を表示するコマンドを使用します(execの開始ポートを占有)プロセスによって占められ

ここに画像を挿入説明

lsof -i:12321

殺すために強制的に!
ここに画像を挿入説明

公開された37元の記事 ウォン称賛17 ビュー1818

おすすめ

転載: blog.csdn.net/qq_37714755/article/details/104932240