kafka的基本介绍

目录

1、kafka的基本介绍

2、kafka的好处

3、分布式的发布与订阅系统

4、kafka的主要应用场景

指标分析

日志聚合解决方法

流式处理


1、kafka的基本介绍

官网:http://kafka.apache.org/

 

kafka是一个分布式,分区的,多副本的,多订阅者的消息发布订阅系统(分布式MQ系统),可以用于搜索日志,监控日志,访问日志等。

最初由linkedin公司开发,使用scala语言编写。

 

Kafka is a distributed,partitioned,replicated commit logservice。

kafka对消息保存时根据Topic进行归类,发送消息者成为Producer,消息接受者成为Consumer,此外kafka集群有多个kafka实例组成,每个实例(server)成为broker。无论是kafka集群,还是producer和consumer都依赖于zookeeper来保证系统可用性集群保存一些meta信息

2、kafka的好处

可靠性:分布式的,分区,复制和容错。

可扩展性kafka消息传递系统轻松缩放,无需停机。

耐用性kafka使用分布式提交日志,这意味着消息会尽可能快速的保存在磁盘上,因此它是持久的。

性能kafka对于发布和定于消息都具有高吞吐量。即使存储了许多TB的消息,他也爆出稳定的性能。

kafka非常快:保证零停机和零数据丢失。

3、分布式的发布与订阅系统

apache kafka是一个分布式发布-订阅消息系统和一个强大的队列,可以处理大量的数据,并使能够将消息从一个端点传递到另一个端点kafka适合离线和在线消息消费

kafka消息保留在磁盘上,并在集群内复制以防止数据丢失。

kafka构建在zookeeper同步服务之上。它与apachespark非常好的集成,应用于实时流式数据分析。

4、kafka的主要应用场景

指标分析

kafka通常用于操作监控数据。用于接收、聚合来自多种应用程序的统计信息,   以便于向产生环境中的数据集中反馈数据

日志聚合解决方法

kafka可用于跨组织从多个服务器收集日志,并使他们以标准的合适提供给多个服务器。

流式处理

流式处理框架(sparkstormflink)从主题中读取数据,对齐进行处理,并将处理后的数据写入新的主题,供用户和应用程序使用,kafka的强耐久性在流处理的上下文中也非常的有用。

原创文章 61 获赞 210 访问量 4万+

猜你喜欢

转载自blog.csdn.net/weixin_42518541/article/details/106054758