あなたの手書きカフカストリーム処理技術を持つ58人の都市の建築家

Kakfaはじめに

カフカは何ですか

カフカは、もともと内部の内部インフラシステムをLinkedInのました。それは、あなたはカフカとサブスクリプションのストリーミングデータに公開し、処理のためにそれらを保存することができ、ワークフロープラットフォームと考えられています。しかし、我々は、ほとんどのようにActiveMQの、RabbitMQのとに似たメッセージングシステム、としてそれを使用することで、カフカを使用しています。しかし、これらの従来のメッセージングシステムとのカフカも多くの違いがあり、これらの違いは、メッセージングシステムから、それは違う作ります。

  • カフカが実行され、クラスタに分散システム(自由膨張をサポート)です。(私たちは、常に、分散メッセージキューと呼ばれます)
  • カフカは、データを格納するために使用することができ、データが格納されている時間の長さは、あなた自身で定義されている(フォールトトレラント永続的に保存されています)。さらにカフカに格納されたデータは、あなたが繰り返し読むことができることを条件とします。
  • ストリーミングは新しいレベルにデータ処理のレベルを向上させます。

伝統的なメッセージシステムは、メッセージのみを通過させるために使用します。
カフカは、(また、カフカの本来の意図の一つに設計された)のHadoopのリアルタイムバージョンとして見ることができます。定期的にデータファイルを大量に保存して処理するためのHadoopと、カフカと永続ストアとプロセス大規模なデータ・ストリーム。Hadoopのは、主に、データ分析に使用され、コアビジネスで使用されるため、その低遅延特性のカフカは、より適切な、ビジネス・イベントが発生したときに、カフカは、これらのイベントに適切な対応を行うことができます。彼らは、データを移動するのが得意なので、その間カフカはまた、比較およびETLすることができます。

サブスクリプションモデルのメッセージングシステム - カフカは、ニュースリリースのシステムに属しています。メッセージの送信者は、メッセージの受信者に直接メッセージを送信しませんが、メッセージが最初に(トピック)を分類し、メッセージシステムにメッセージを公開しています。選択したメッセージの受信者がメッセージタイプ(トピック)をサブスクライブし、その後、システムは、メッセージがサブスクライブされたメッセージから受信することができます。

講師プロフィール

あなたの手書きカフカストリーム処理技術を持つ58人の都市の建築家

カフカのアプリケーション

あなたの手書きカフカストリーム処理技術を持つ58人の都市の建築家

カフカメッセージ処理フロー

あなたの手書きカフカストリーム処理技術を持つ58人の都市の建築家

カフカの重要な設定情報

あなたの手書きカフカストリーム処理技術を持つ58人の都市の建築家

カフカの戦闘コマンド

あなたの手書きカフカストリーム処理技術を持つ58人の都市の建築家

カフカの戦闘 - 関数型プログラミングとラムダ式

あなたの手書きカフカストリーム処理技術を持つ58人の都市の建築家

概要

カフカが爆発しています。フォーチュン500企業の3分の1以上は、カフカを使用しています。これらの企業は、トップ10の観光会社、7でトップ10の銀行、トップ1009年の電気通信企業のトップ10の保険会社の8、およびそれ以上を含みます。LinkedInは、MicrosoftとNetflixが1兆件のメッセージを処理カフカ日(1,000,000,000,000)を使用します。リアルタイム・データ・ストリームのためのカフカ、大規模なデータの収集やリアルタイム(あるいはその両方)で分析しました。カフカは、信頼性の高いサービスの微細構造を提供するためにメモリと共に使用は、CEP(複合イベントフローシステム)とのIoT / IFTTTオートメーションシステムにイベントを提供するために使用することができます。

おすすめ

転載: blog.51cto.com/13904503/2415683