(二)Topic和log

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/User_meng/article/details/89039789

(二)Topic和log

此文档为本人学习kafka记录

官方文档: https://kafka.apache.org/documentation/

参考资料:

Topic

Topic是发布消息的类别和订阅源的名称

  • KafkaTopic总是多用户的
    • 一个Topic 可以有0个或者是多个消费者订阅它写入的数据

partitioned log

每个Topic,kafka集群都维护了一个分区的日志

img

​ 每个分区都是一个有序的,不可变的记录序列,写入的消息不断的加到结构化的日志中,分区中的每条记录都被分配一个称之为offset偏移量的顺序ID号,它标识分区中的每一条记录.

​ Kafka集群(根据保留策略)持久的保存了以发布的数据,无论他们是否被消费.

img

实际上,基于每个消费者保留唯一元数据是消费者在日志中的位置

  • 简单来说就是从那个地方开始消费(offset)
  • offset是由消费者自己控制的

eg 消费者可以重置旧的偏移量以重新处理过去的数据,或则条道最近的记录,现在开始消费.

猜你喜欢

转载自blog.csdn.net/User_meng/article/details/89039789
今日推荐