Kafka的ACK原理

SpringBoot yml 配置

原文:https://blog.csdn.net/sheep8521/article/details/89511219

spring:
 kafka:
  consumer:
    group-id: ${spring.application.name}
    enable-auto-commit: false
    auto-offset-reset: latest
  producer:
    client-id: ${spring.application.name}
    retries: 3
    acks: -1

1、kafka的ack机制的分类

在这里插入图片描述

request.required.acks=0
  •  

1、当producer向leader发送数据时,可以通过request.required.acks参数来设置数据可靠性的级别:
      0:这意味着producer无需等待来自broker的确认而继续发送下一批消息。这种情况下数据传输效率最高,
             但是数据可靠性确是最低的。
      1:(默认)这意味着producer在ISR中的leader已成功收到的数据并得到确认后发送下一条message。
如果leader宕机了,则会丢失数据。
      -1(或者是all):producer需要等待ISR中的所有follower都确认接收到数据后才算一次发送完成,可靠性最高。
但是这样也不能保证数据不丢失,比如当ISR中只有leader时(前面ISR那一节讲到,
ISR中的成员由于某些情况会增加也会减少,最少就只剩一个leader),这样就变成了acks=1的情况。

如果要提高数据的可靠性,在设置request.required.acks=-1的同时,也要min.insync.replicas这个参数
(可以在broker或者topic层面进行设置)的配合,这样才能发挥最大的功效。min.insync.replicas这个参数设定
ISR中的最小副本数是多少,默认值为1,当且仅当request.required.acks参数设置为-1时,此参数才生效。
如果ISR中的副本数少于min.insync.replicas配置的数量时,客户端会返回异常:
org.apache.kafka.common.errors.NotEnoughReplicasExceptoin: Messages are rejected since there are fewer in-sync replicas than required

2、kafka的消息发送过程分析

接下来对acks=1和-1的两种情况进行详细分析:

  1. request.required.acks=1
    producer发送数据到leader,leader写本地日志成功,返回客户端成功;此时ISR中的副本还没有来得及拉取该消息,leader就宕机了,那么此次发送的消息就会丢失。
    在这里插入图片描述
  2. request.required.acks=-1
    同步(Kafka默认为同步,即producer.type=sync)的发送模式,replication.factor>=2且min.insync.replicas>=2的情况下,不会丢失数据。
    有两种典型情况。acks=-1的情况下(如无特殊说明,以下acks都表示为参数request.required.acks),数据发送到leader, ISR的follower全部完成数据同步后,leader此时挂掉,那么会选举出新的leader,数据不会丢失。
    在这里插入图片描述
    acks=-1的情况下,数据发送到leader后 ,部分ISR的副本同步,leader此时挂掉。比如follower1h和follower2都有可能变成新的leader, producer端会得到返回异常,producer端会重新发送数据,数据可能会重复。

在这里插入图片描述
当然上图中如果在leader crash的时候,follower2还没有同步到任何数据,而且follower2被选举为新的leader的话,这样消息就不会重复。

HW vs LEO
LEO(LogEndOffset):表示每个partition的log最后一条Message的位置。
HW(HighWatermark):表示partition各个replicas数据间同步且一致的offset位置,即表示allreplicas已经commit位置,每个Broker缓存中维护此信息,并不断更新。是指consumer能够看到的此partition位置。
取一个partitionISR中最小的LEO作为HW,consumer最多只能消费到HW所在位置。
Consumer只能看到commit的数据,也就是HW的数据

在这里插入图片描述

发布了328 篇原创文章 · 获赞 23 · 访问量 7万+

猜你喜欢

转载自blog.csdn.net/lbh199466/article/details/89918251
ACK