kafka原理讲解一:

入门:
消息中间件:

一、发布和订阅:消费者分布在不同的group中。
二、队列模式:所有的消费者共同属于一个group,消息只会被消费一次。

②topic:

 Topic可以认为是一类消息,每个topic将被分成多个partition(区),每个partition(在存储层面是append log文件)。任何发布到此partition的消息都会被直接追加到log文件的尾部,每条消息在文件中的位置称为offset(偏移量),offset为一个long型数字,它是唯一标记一条消息。这个offset是递增的,所以每个parttion中存储的消息是有序的。

③生产者:会选择一个topic将生产的消息会通过分配策略append到某个partition的末尾,


④消费者:会选择一个指定的topic,通过id指定从哪个位置开始消费消息,消费完成之后保留id,下次可以从这个位置开始继续消费,也可以从其他任意位置开始消费(更换groupId)。

对于consumer而言,它需要保存消费消息的offset,对于offset的保存和使用,有consumer来控制;当consumer正常消费消息时,offset将会"线性"的向前驱动,即消息将依次顺序被消费。

注:事实上consumer可以使用任意顺序消费消息,它只需要将offset重置为任意值。

即使消息被消费,消息仍然不会被立即删除.日志文件将会根据broker中的配置要求,保留一定的时间之后删除;比如log文件保留2天,那么两天后,文件会被清除,无论其中的消息是否被消费.kafka通过这种简单的手段,来释放磁盘空间,以及减少消息消费之后对文件内容改动的磁盘IO开支.

一个conmuser属于一个conmuser group,一个conmuser group中含有多个conmuser,一个conmuser group中只会有一个消费者去消费消息,每个group中consumer消息消费互相独立;不过一个consumer可以消费多个partitions中的消息.kafka只能保证一个partition中的消息被某个consumer消费时,消息是顺序的.事实上,从Topic角度来说,消息仍不是有序的.


⑤分区
partitions的设计目的有多个.最根本原因是kafka基于文件存储.通过分区,可以将日志内容分散到多个server上,来避免文件尺寸达到单机磁盘的上限,每个partiton都会被当前server(kafka实例)保存;可以将一个topic切分多任意多个partitions,来消息保存/消费的效率.此外越多的partitions意味着可以容纳更多的consumer,有效提升并发消费的能力.

注:consumer的数量补不能多于parttion的数量,如果多于parttion的数量将意味着有些conmuser消费不到消息。

⑥消息的备份(relpications)
一个Topic的多个partitions,被分布在kafka集群中的多个server上;每个server(kafka实例)负责partitions中消息的读写操作;此外kafka还可以配置partitions需要备份的个数(replicas),每个partition将会被备份到多台机器上,以提高可用性.
    基于replicated方案,那么就意味着需要对多个备份进行调度;每个partition都有一个server为"leader";leader负责所有的读写操作,如果leader失效,那么将会有其他follower来接管(成为新的leader);follower只是单调的和leader跟进,同步消息即可..由此可见作为leader的server承载了全部的请求压力,因此从集群的整体考虑,有多少个partitions就意味着有多少个"leader",kafka会将"leader"均衡的分散在每个实例上,来确保整体的性能稳定.

任何一个partition有一个leader和多个follower(可以没有);备份的个数可以通过broker配置文件来设定.leader处理所有的read-write请求,follower需要和leader保持同步.Follower和consumer一样,消费消息并保存在本地日志中;leader负责跟踪所有follower状态,如果follower"落后"太多或者失效,leader将会把它从replicas同步列表中删除.当所有的follower都将一条消息保存成功,此消息才被认为是"committed",那么此时consumer才能消费它.即使只有一个replicas实例存活,仍然可以保证消息的正常发送和接收,只要zookeeper集群存活即可.(不同于其他分布式存储,比如hbase需要"多数派"存活才行)
    当leader失效时,需在followers中选取出新的leader,可能此时follower落后于leader,因此需要选择一个"up-to-date"的follower.选择follower时需要兼顾一个问题,就是新leaderserver上所已经承载的partition leader的个数,如果一个server上有过多的partition leader,意味着此server将承受着更多的IO压力.在选举新leader,需要考虑到"负载均衡".


使用场景:
①Messaging   
②Websit activity tracking
③Log Aggregation


 

猜你喜欢

转载自blog.csdn.net/weixin_38987366/article/details/89189473
0条评论
添加一条新回复