Kafka工作流程知识点详解

Kafka工作流程知识点详解

1.工作流程图

在这里插入图片描述
1.kafka生态系统四大角色,生产者(Producer),kafka集群(Broker),消费者(Consumer)、zookeeper
2.每个消费者都必须属于某个消费者组,一个组内的消费者可以是多个。
3.一个Topic可以有1到多个分区(Partition)
4.一个分区可以有多个segment。
5.每个segment可以有一个log和一个index组成。
6.被复制的分区叫做主副本(leader),被leader复制出来的都是从副本(Follower)
7.生产者只往主副本写数据,消费者只在主副本拉取数据。从副本只做数据备份,不做数据读写

8.一个分区内的一条数据,只能被一个消费者组内的一个消费者消费
9.消费者的最大并发度由topic的分区数量决定
10.分区副本的数量必须小于等于broker的数量
11.一个topic内的多个分区,每个分区只是所有数据的一部分。主题所有分区(leader)内的数据累加到一起就是这个topic的全部数据
12.zookeeper中记录了broker的id、消费者消费数据的offset,消费者与partition的对应关系,如上图:
(ConsumerA—> Partition-0, ConsumerB—> Partition-1)

 ----------------------------------------------------------------------------

好了,本章内容就到这里就结束了。由于也是初学kafka。还不是多熟练掌握kafka,因此以上篇章有什么错误的地方。欢迎大家来帮我纠正。小编会继续更新博客,各位读者的 三连 就是小编坚持下去的动力。
我是小哪吒,一名传智学子。一名互联网行业的业余选手…哈哈

成功的人在成功之前就已经在做成功的事了
发布了42 篇原创文章 · 获赞 114 · 访问量 2万+

猜你喜欢

转载自blog.csdn.net/Mr_Yang888/article/details/105044024