logstashカフカは、ES JSONログの入力フォーマットから読み込みます

ボスは探査の数日後、研究者ELKを許可し、そして最終的にプロセスが駆け抜けます。
バージョン:
カフカはライブ0.10.2.0に使用
logstash 5.3.0
elasticsearch 5.3.0
修正logstashコンフィギュレーションファイル
のvi logstash.conf

input {
    kafka{
        bootstrap_servers => ["10.10.10.10:9092"]
        group_id => "es"
        topics => ["myTest"]
        codec => json {
                 charset => "UTF-8"
        }
    }
}

output {
        # 处理后的日志落到本地文件
        file {
                path => "/data/logstash/test.log"
                flush_interval => 0
       }
       # 处理后的日志入es
       elasticsearch {
        hosts => ["10.10.10.20:9200"]
        index => "test"
        id => "my_plugin_id"
        document_id => "%{userid}"
        document_type => "mytype"
       }
}

ここで指定されたコーデックの入力=> JSON JSON文字列カフカの解析することができ
、インデックスで指定された出力インデックスを、指定された型をDOCUMENT_TYPE、主キーを指定DOCUMENT_ID
主キーは自動的に重複して上書きされますがある場合!

公開された118元の記事 ウォン称賛25 ビュー15万+

おすすめ

転載: blog.csdn.net/lhxsir/article/details/95991529