Kafka Streams概述

1.什么是Kafaka Streams

Kafka Streams:  Apache Kafka开源项目的一个组成部分,是一个功能强大,易于使用的库,用于在Kafka上构建高可分布式、拓展性,容错的应用程序

2.Kafka Streams的优势

    1)功能强大 

高扩展性,弹性,容错 

    2)轻量级 

无需专门的集群 

一个库,而不是框架

    3)完全集成 

100%的Kafka 0.10.0版本兼容

易于集成到现有的应用程序 

    4)实时性

毫秒级延迟 

并非微批处理 

窗口允许乱序数据 

允许迟到数据

3.为什么要有Kafka Streams

当前已经有非常多的流式处理系统,最知名且应用最多的开源流式处理系统有Spark Streaming和Apache Storm,Apache Storm

发展多年,应用广泛,提供记录级别的处理能力,当前也支持SQL on Stream,而Spark Streaming基于Apache Spark,可以非

常方便与图计算,SQL处理等集成,功能强大,对于熟悉其它Spark应用开发的用户而言使用门槛低,另外,目前主流的Hadoop

发行版,如Cloudera和Hortonworks,都集成了Apache Storm和Apache Spark,使得部署更容易

既然Apache Spark与Apache Storm拥用如此多的优势,那为何还需要Kafka Stream呢,主要有如下原因:

    1)Spark和Storm都是流式处理框架,而Kafka Stream提供的是一个基于Kafka的流式处理类库,框架要求开发者按照特定的方

式去开发逻辑部分,供框架调用。开发者很难了解框架的具体运行方式,从而使得调试成本高,并且使用受限,而Kafka Stream

作为流式处理类库,直接提供具体的类给开发者调用,整个应用的运行方式主要由开发者控制,方便使用和调试。

    2)虽然Cloudera与Hortonworks方便了Storm和Spark的部署,但是这些框架的部署仍然相对复杂,而Kafka Stream作为类库,

可以非常方便的嵌入应用程序中,它对应用的打包和部署基本没有任何要求。

   3)就流式处理系统而言,基本都支持Kafka作为数据源,例如Storm具有专门的kafka-spout,而Spark也提供专门的spark-

streaming-kafka模块。事实上,Kafka基本上是主流的流式处理系统的标准数据源,换言之,大部分流式系统部署了Kafka,

此时使用Kafka Stream的成本非常低。

    4)使用Storm或Spark Streaming时,需要为框架本身的进程预留资源,如Storm的supervisor和Spark on YARN的nodemanager

,即使对于应用实例而言,框架本身也会占用部分资源,如Spark Streaming需要为shuffle和storage预留内存,但是Kafka作为类

库不占用系统资源

    5)由于Kafka本身提供数据持久化,因此Kafka Stream提供滚动部署和滚动升级以及重新计算的能力

    6)由于Kafka Consumer Rebalance机制,Kafka Stream可以在线动态调整并行度

 

猜你喜欢

转载自blog.csdn.net/ys_230014/article/details/82822299