マクスウェルコンパイル

マクスウェルについて

マクスウェルは、MySQLバイナリログのbinlogを読み、カフカ、キネシス、RabbitMQの、Redisの、に送信されるメッセージのJSON形式の生成をリアルタイムで Googleクラウドパブ/サブ、 文書やプロデューサーなどの他のアプリケーションプラットフォームを。これは、一般的なシナリオがETL、メインテナンスキャッシュだ、検索エンジン、データパーティションの移行、Ceku binlogのロールバック・プログラムへの増分DML表レベルの指標を、集めます。公式サイト(http://maxwells-daemon.io

マクスウェルのコンパイル

マクスウェルIDEAのインポートソースコード
マクスウェルコンパイル
コンパイラは、完全なターゲットフォルダを生成し、最初のクリーンヒットしたパッケージの前にあることに注意
マクスウェルコンパイル
サーバーにアップロードマクスウェル-1.22.1.tar.gzの新しい翻訳に

[hadoop@hadoop004 maxwell-1.22.1]$ vim config.properties
# mysql options

user = maxwell
password = Aaron123456#
host= hadoop004
jdbc_options = useSSL=false&serverTimezone=Asia/Shanghai
schema_database = maxwell
ignore_producer_error = true

# sync tables

include_dbs=hello
include_tables=people

producer = kafka
kafka_topic = DSHS

# kafka produce options

kafka.batch.size = 10000
kafka.max.request.size = 2097152
kafka.request.timeout.ms = 360000

kafka.acks = all
kafka.compression.type = snappy
kafka.metadata.fetch.timeout.ms= 360000
kafka.retries= 100

# kafka.linger.ms = 500

kafka.max.in.flight.requests.per.connection = 1
kafka.timeout.ms = 360000
kafka.buffer.memory = 536870912
kafka.max.block.ms = 1800000

kafka.bootstrap.servers=hadoop004:9092

# kafka producer partition

producer_partition_by=primary_key

# kafka monitor

metrics_type=http
metrics_http_port=8083

または直接IDEAで直接起動
マクスウェルコンパイル
カフカを開始

bin/kafka-topics.sh --create --zookeeper hadoop004:2181 --replication-factor 1 --partitions 1 --topic DSHS

bin/zookeeper-server-start.sh -daemon config/zookeeper.properties

bin/kafka-server-start.sh -daemon config/server.properties

bin/kafka-console-consumer.sh --zookeeper localhost:2181/kafka --topic DSHS --from-beginning
[hadoop@hadoop004 maxwell-1.22.1]$ bin/maxwell --kafka_version 0.10.0.1 --config config.properties

マクスウェルコンパイル
マクスウェルコンパイル


➜  bin pwd
/Applications/IntelliJ IDEA.app/Contents/plugins/maven/lib/maven3/bin

➜  bin sh mvn install:install-file -Dfile=/Users/Aaron/Downloads/fuxing/phoenix-4.10.0-cdh5.12.0/phoenix-4.10.0-cdh5.12.0-client.jar -DgroupId=org.apache.phoenix -DartifactId=phoenix-client -Dversion=4.10.0-cdh5.12.0 -Dpackaging=Jar

おすすめ

転載: blog.51cto.com/14309075/2414261