(七)redis持久化RDB和AOF

redis持久化的两种方式:

方式一:快照。
一次全量备份,是内存数据的二进制序列化形式,在存储上非常紧凑
方式二:AOF(append-only file)日志。
连续的增量备份,日志记录的是内存数据修改的指令记录文本。在长期运行过程中会非常庞大,需要进行指令重放。

1、持久化过程

什么是持久化?简单来讲就是将数据放到断电后数据不会丢失的设备中,也就是我们通常理解的硬盘上。

首先我们来看一下数据库在进行写操作时到底做了哪些事,主要有下面五个过程: 

  • 客户端向服务端发送写操作(数据在客户端的内存中)。
  • 数据库服务端接收到写请求的数据(数据在服务端的内存中)。
  • 服务端调用write这个系统调用,将数据往磁盘上写(数据在系统内存的缓冲区中)。
  • 操作系统将缓冲区中的数据转移到磁盘控制器上(数据在磁盘缓存中)。
  • 磁盘控制器将数据写到磁盘的物理介质中(数据真正落到磁盘上)。

故障分析 
写操作大致有上面5个流程,下面我们结合上面的5个流程看一下各种级别的故障: 

  • 当数据库系统故障时,这时候系统内核还是完好的。那么此时只要我们执行完了第3步,那么数据就是安全的,因为后续操作系统会来完成后面几步,保证数据最终会落到磁盘上。
  • 当系统断电时,这时候上面5项中提到的所有缓存都会失效,并且数据库和操作系统都会停止工作。所以只有当数据在完成第5步后,才能保证在断电后数据不丢失
 

2、快照原理(特别重要!!!!!!!!!)

redis使用操作系统的多进行COW(Copy On Write)机制来实现快照持久化,持久化的时候会调用glibc的函数fork产生一个子进程,快照持久化完全交给子进程处理,父进程继续处理客户端请求。子进程创建初期和父进程共享内存里面的代码段和数据段,在进程分离的瞬间,内存的增长几乎没有明显的变化。
子进程不会修改现有数据结构,只会对数据结构进行遍历读取,然后写入到磁盘中。
父进程会持续服务客户端请求,然后对内存数据进行修改。这时候会使用操作系统的COW机制来进行数据段页面的分离。数据段是由很多操作系统的页面组合而成,当父进程对其中的一个页面进行修改的时候,会将被共享页面复制一份分离出来,然后对这个页面进行修改,此时子进程读取的仍然是之前那一瞬间页面的数据。
由于redis冷数据比较多,分离出来的页面也不会很多,所以也不会超过原有内存的2倍大小!
 
 

3、RDB持久化机制

 

优点

 
(1)RDB会生成多个数据文件,每个数据文件都代表了某一个时刻中redis的数据,这种多个数据文件的方式,非常适合做冷备,可以远程存储进行冷备
 
(2)RDB对redis对外提供的读写服务,影响非常小可以保持高性能。因为redis主进程只需要fork一个子进程进行持久化
 
(3)RDB就是一份数据文件,恢复的时候直接加载到内存中即可
 
结合上述优点,RDB特别适合做冷备份,冷备
 

缺点

 
(1)RDB数据快照文件,都是每隔5分钟或者更长时间,这个时候一旦redis进程宕机会丢失最近5分钟的数据。
 
(2)RDB每次在fork子进程来执行RDB快照数据文件生成的时候,如果数据文件特别大,可能会导致对客户端提供的服务暂停数毫秒,或者甚至数秒
 
一般不要让RDB的间隔太长,否则每次生成的RDB文件太大了,对redis本身的性能可能会有影响的(有点疑惑,一个服务器到底生成几个快照文件)
 

 

3、AOF持久化机制的

 

优点

 
(1)AOF可以更好的保护数据不丢失,一般AOF会每隔1秒,通过一个后台线程执行一次fsync操作,最多丢失1秒钟的数据
 
(2)AOF日志文件以append-only模式写入,所以没有任何磁盘寻址的开销,写入性能非常高,而且文件不容易破损,即使文件尾部破损,也很容易修复
 
(3)AOF可以重写,redis提供了bgrewriteaof命令进行瘦身。原理就是开辟一个子进程对内存进行遍历转换成一系列的redis的操作指令,序列化到一个新的AOF文件中,再将这期间的增量AOF日志追加到这个新的日志文件中去,就完成了瘦身动作。

缺点

 
(1)对于同一份数据来说,AOF日志文件通常比RDB数据快照文件更大
 
(2)AOF开启后,支持的写QPS会比RDB支持的写QPS低,因为AOF一般会配置成每秒fsync一次日志文件,当然,每秒一次fsync,性能也还是很高的
 
如果你要保证一条数据都不丢,也是可以的,AOF的fsync设置成没写入一条数据,fsync一次,那就完蛋了,redis的QPS大降
 
(3)以前AOF发生过bug,就是通过AOF记录的日志,进行数据恢复的时候,没有恢复一模一样的数据出来。所以说,类似AOF这种较为复杂的基于命令日志/merge/回放的方式,比基于RDB每次持久化一份完整的数据快照文件的方式,更加脆弱一些,容易有bug。不过AOF就是为了避免rewrite过程导致的bug,因此每次rewrite并不是基于旧的指令日志进行merge的,而是基于当时内存中的数据进行指令的重新构建,这样健壮性会好很多。
 
(4)唯一的比较大的缺点,其实就是做数据恢复的时候,会比较慢,还有做冷备,定期的备份,不太方便,可能要自己手写复杂的脚本去做,做冷备不太合适
 
特殊说明:redis的主节点不会进行持久化操作,一般是从节点进行,这样没有来自客户端的请求压力
 

 

4、RDB和AOF到底该如何选择

 
(1)不要仅仅使用RDB,因为那样会导致你丢失很多数据
 
(2)也不要仅仅使用AOF,因为那样有两个问题,第一,你通过AOF做冷备,没有RDB做冷备,来的恢复速度更快; 第二,RDB每次简单粗暴生成数据快照,更加健壮,可以避免AOF这种复杂的备份和恢复机制的bug
 
(3)综合使用AOF和RDB两种持久化机制,用AOF来保证数据不丢失,作为数据恢复的第一选择; 用RDB来做不同程度的冷备,在AOF文件都丢失或损坏不可用的时候,还可以使用RDB来进行快速的数据恢复
 
 

重点来啦!!!

redis4.0混合持久化
将rdb文件和增量的AOF文件放到一起。这里AOF文件不再是全量的日志,而是持久化开始到持久化结束这段时间发生的增量的AOF日志,通常会很小
于是在redis重启的时候,可以先加载rdb的内容,然后再重放增量AOF日志即可,重启效率得到大幅提升
 
 
 
 
 
 
 
 
 
 

猜你喜欢

转载自blog.csdn.net/lss446937072/article/details/109609084