kafka之 Broker 保存消息

1 存储方式

物理上把topic分成一个或多个patition(对应 server.properties 中的num.partitions=3配置),每个patition物理上对应一个文件夹(该文件夹存储该patition的所有消息和索引文件),如下:

[tom@hadoop102 logs]$ ll

drwxrwxr-x. 2 tom tom  4096 8月   6 14:37 first-0

drwxrwxr-x. 2 tom tom  4096 8月   6 14:35 first-1

drwxrwxr-x. 2 tom tom  4096 8月   6 14:37 first-2

[tom@hadoop102 logs]$ cd first-0

[tom@hadoop102 first-0]$ ll

-rw-rw-r--. 1 tom tom 10485760 8月   6 14:33 00000000000000000000.index

-rw-rw-r--. 1 tom tom    219 8月   6 15:07 00000000000000000000.log

-rw-rw-r--. 1 tom tom 10485756 8月   6 14:33 00000000000000000000.timeindex

-rw-rw-r--. 1 tom tom        8 8月   6 14:37 leader-epoch-checkpoint

2 存储策略

无论消息是否被消费,kafka都会保留所有消息。有两种策略可以删除旧数据:

1)基于时间:log.retention.hours=168

2)基于大小:log.retention.bytes=1073741824

需要注意的是,因为Kafka读取特定消息的时间复杂度为O(1),即与文件大小无关,所以这里删除过期文件与提高 Kafka 性能无关。

3 Zookeeper存储结构

注意:producer不在zk中注册,消费者和kafka在zk中注册。

猜你喜欢

转载自blog.csdn.net/qq_43193797/article/details/86545805