(3)Kafka HA

1、CAP理论

  • Consistency
  1. 通过某个节点的写操作结果对后面通过其它节点的读操作可见
  2. 如果更新数据后,并发访问情况下可立即感知该更新,称为强一致性
  3. 如果允许之后部分或者全部感知不到该更新,称为弱一致性
  4. 若在之后的一段时间(通常该时间不固定)后,一定可以感知该更新,称为最终一致性
  • Availability
  1. 任何一个没有发生故障的节点必须在有限的时间内返回合理的结果
  • Partition tolerance
  1. 部分节点宕机或者无法与其它节点通信时,各分区间还可保持分布式系统的功能

CAP理论:分布式系统中,一致性、可用性、分区容忍性最多只可同时满足两个。一般分区容忍性都要求有保障,因此很多时候是在可用性与一致性之间做权衡。

2、一致性方案

  • Master-slave
  1. RDBMS的读写分离即为典型的Master-slave方案
  2. 同步复制可保证强一致性但会影响可用性
  3. 异步复制可提供高可用性但会降低一致性
  • WNR
  1. 主要用于去中心化(P2P)的分布式系统中。DynamoDB与Cassandra即采用此方案
  2. N代表副本数,W代表每次写操作要保证的最少写成功的副本数,R代表每次读至少读取的副本数
  3. 当W+R>N时,可保证每次读取的数据至少有一个副本具有最新的更新
  4. 多个写操作的顺序难以保证,可能导致多副本间的写操作顺序不一致,Dynamo通过向量时钟保证最终一致性
  • Paxos及其变种
  1. Google的Chubby,Zookeeper的Zab,RAFT等

3、Replica

  • 当某个Topic的replication-factor为N且N大于1时,每个Partition都会有N个副本(Replica)
  • Replica的个数小于等于Broker数,即对每个Partition而言每个Broker上只会有一个Replica,因此可用Broker ID表示Replica
  • 所有Partition的所有Replica默认情况会均匀分布到所有Broker上

4、Data Replication要解决的问题

4.1、如何Propagate消息

4.2、何时Commit

4.3、如何处理Replica恢复

4.4、如何处理Replica全部宕机

等待ISR中任一Replica恢复,并选它为Leader

  • 等待时间较长,降低可用性
  • 或ISR中的所有Replica都无法恢复或者数据丢失,则该Partition将永不可用

选择第一个恢复的Replica为新的Leader,无论它是否在ISR中

  • 并未包含所有已被之前Leader Commit过的消息,因此会造成数据丢失
  • 可用性较高

猜你喜欢

转载自blog.csdn.net/MyronCham/article/details/84948970
HA
今日推荐