缓存加速—NoSQL之Redis群集搭建
一:单节点Redis的问题以及解决方法
1.1:单节点Redis服务器带来的问题
- 单点故障,服务不可用
- 无法处理大量的并发数据请求
- 数据丢失—大灾难
1.2:解决方法
- 搭建Redis集群
二:Redis集群
2.1:Redis集群介绍
- Redis集群是一个提供在多个Redis间节点间共享数据的程序集
- Redis集群并不支持处理多个keys的命令,因为这需要在不同的节点间移动数据,从而达不到像Redis那样的性能,在高负载的情况下可能会导致不可预料的错误
- Redis集群通过分区来提供一定程度的可用性,在实际环境中当某个节点宕机或者不可达的情况下可继续处理命令
2.2:Redis集群的优势
- 自动分割数据到不同的节点上
- 整个集群的部分节点失败或者不可达的情况下能够继续处理命令
2.3:Redis集群的实现方法
-
有客户端分片(具体找节点,或者具体找分片去拿,这里面当中的信息参数直接写到客户端上,而不是Redis上,称之为客户端分片,例如下图路由,位置)
-
代理分片
-
服务器端分片
-
去中心化的意思:节点没有必要依靠中心,中心down掉依然可以正常
2.4:Redis-cluster数据分片
- Redis集群没有使用一致性hash,而是引入了哈希槽概念
- Redis集群有16384个哈希槽
- 每个key通过CRC16校验后对16384取模来决定放置槽
- 集群的每个节点负责一部分哈希槽
- 以3个节点组成的集群为例
- 节点A包含0到5500号哈希槽
- 节点B包含5501到11000号哈希槽
- 节点C包含11001到16384号哈希槽
- 支持添加或者删除节点
- 添加删除节点无需停止服务
- 例如
- 如果想添加个节点D,需要移动节点A,B,C中的部分槽到D上
- 如果想移除节点A,需要将A中的槽移到B和C节点上,再也没有任何槽的A节点从集群中移除
说明:支持热添加和热删除,在运行状态下可以添加和删除
2.5:Redis-cluster的主从复制模型
- 集群中具有A,B,C三个节点,如果节点B失败了,整个集群就会因缺失5501-11000这个范围的槽而不可用
- 为每个节点添加一个从节点A1,B1,C1,整个集群便有三个master节点和三个slave节点组成,在节点B失败后,集群便会选举B1位新的主节点继续服务
- 当B和B1都失败后,集群将不可用
三:实验
3.1:实验环境
- VMware软件
- Redis官网建议使用6台服务器搭建群集,3台master,3台slave
- 我们用两台服务器模拟6台服务器,剩下的服务器添加网卡模拟
- 主服务器master1:IP地址:20.0.0.51
- 主服务器master2:IP地址:20.0.0.52
- 主服务器master3:IP地址:20.0.0.47
- 从服务器slave1:IP地址:20.0.0.48
- 从服务器slave2:IP地址:20.0.0.55
- 从服务器slave3:IP地址:20.0.0.60
- Redis主服务器需要安装rvm和Ruby控制集群软件
3.2:实验目的
- 通过实验实现以下目标
- 部署Redis服务
- 构建Redis群集
- 验证Redis群集功能
3.3:实验步骤
3.3.1:主从服务器部署Redis
'主从服务器的部署都是一样的,在此仅展示主服务器的部署'
[root@master1 ~]# yum install gcc gcc-c++ make -y '//安装环境组件编译器'
[root@master1 redis]# tar zxvf redis-5.0.7.tar.gz -C /opt 'redis源码包可以直接到官网下载'
[root@master1 redis]# cd /opt/redis-5.0.7/
[root@master1 redis-5.0.7]# make '直接进行make'
[root@master1 redis-5.0.7]# make PREFIX=/usr/local/redis/ install '指定redis目录并安装'
[root@master1 utils]# ln -s /usr/local/redis/bin/* /usr/local/bin '将redis命令创建软连接,便于系统识别'
[root@master1 redis-5.0.7]# cd utils/'回到redis源码包解压目录'
[root@master1 utils]# ./install_server.sh '执行脚本进行配置'
Welcome to the redis service installer
This script will help you easily set up a running redis server
Please select the redis port for this instance: [6379] '选择redis默认接口,直接回车'
Selecting default: 6379
Please select the redis config file name [/etc/redis/6379.conf] '选择redis默认配置文件名称,直接回车'
Selected default - /etc/redis/6379.conf
Please select the redis log file name [/var/log/redis_6379.log] '选择默认redis日志文件名称,直接回车'
Selected default - /var/log/redis_6379.log
Please select the data directory for this instance [/var/lib/redis/6379] '选择默认接口的默认数据文件,直接回车'
Selected default - /var/lib/redis/6379
Please select the redis executable path [] /usr/local/redis/bin/redis-server '选择redis可执行文件路径,需要手动输入此路径:/usr/local/redis/bin/redis-server'
Selected config: '//选择的配置清单展示'
Port : 6379
Config file : /etc/redis/6379.conf
Log file : /var/log/redis_6379.log
Data dir : /var/lib/redis/6379
Executable : /usr/local/redis/bin/redis-server
Cli Executable : /usr/local/redis/bin/redis-cli
Is this ok? Then press ENTER to go on or Ctrl-C to abort. '//直接回车完成配置'
Copied /tmp/6379.conf => /etc/init.d/redis_6379
Installing service...
Successfully added to chkconfig!
Successfully added to runlevels 345!
Starting Redis server...
Installation successful!
[root@master1 utils]# netstat -ntap |grep 6379
tcp 0 0 127.0.0.1:6379 0.0.0.0:* LISTEN
3.3.2:主从服务器配置文件修改
[root@master1 utils]# vim /etc/redis/6379.conf '修改主配置文件'
#bind 127.0.0.1 '注释第70行的监听127地址,表示监听所有地址'
protected-mode no '去掉第89行注释关闭安全保护'
port 6379 '去掉第93行注释,开启端口6379'
daemonize yes '去掉第137行注释,以独立进程启动'
cluster-enabled yes '去掉第833行注释,开启群集功能'
cluster-config-file nodes-6379.conf '去掉第841行注释,群集名称文件设置'
cluster-node-timeout 15000 '去掉第847行注释,群集超时时间设置'
appendonly yes '去掉第700行注释,开启aof持久化'
[root@master1 utils]# cd /var/lib/redis/6379/
[root@master1 6379]# /etc/init.d/redis_6379 restart '重启redis服务'
[root@master1 6379]# ls
appendonly.aof dump.rdb nodes-6379.conf
'生成了三个文件,appendonly.aof是AOF持久化文件,dump.rdb是RDB快照文件,nodes-6379.conf是节点首次启动生成的配置文件'
3.3.3:主服务器安装rvm,RUBY控制集群软件
[root@master1 6379]# gpg --keyserver hkp://keys.gnupg.net --recv-keys 409B6B1796C275462A1703113804BB82D39DC0E3 '导入key文件,若出现error,重新导入一次即可'
[root@master1 6379]# curl -sSL https://get.rvm.io | bash -s stable '安装rvm,这边是需要翻墙的才能够获取'
[root@master1 redis]# tar zxvf rvm-master.tar.gz -C /opt
[root@master1 redis]# cd /opt/rvm-master/
[root@master1 rvm-master]# ./install
[root@master1 rvm-master]# source /etc/profile.d/rvm.sh '执行环境变量'
[root@master1 rvm-master]# rvm list known '列出ruby可以安装的版本'
[root@master1 rvm-master]# rvm install 2.4.10 '安装ruby2.4.10版本,安装版本的事件会比较长'
[root@master1 rvm-master]# ruby -v '查看当前ruby版本'
[root@master1 rvm-master]# gem install redis '再次安装redis'
3.3.4:主服务器添加两块网卡
- 启动服务关闭防火墙
[root@master1 rvm-master]# systemctl restart network '重启网卡'
[root@master1 rvm-master]# systemctl stop firewalld.service '关闭防火墙'
[root@master1 rvm-master]# setenforce 0
3.3.5:从服务器添加两块网卡
- 启动服务关闭防火墙
[root@master1 rvm-master]# systemctl restart network '重启网卡'
[root@master1 rvm-master]# systemctl stop firewalld.service '关闭防火墙'
[root@master1 rvm-master]# setenforce 0
3.3.6:主服务器上创建群集
[root@master1 rvm-master]# redis-cli --cluster create 20.0.0.52:6379 20.0.0.51:6379 20.0.0.47:6379 20.0.0.48:6379 20.0.0.55:6379 20.0.0.60:6379 --cluster-replicas 1
'//反馈的信息输入yes回车即可,以下为反馈信息'
>>> Performing hash slots allocation on 6 nodes...
Master[0] -> Slots 0 - 5460
Master[1] -> Slots 5461 - 10922
Master[2] -> Slots 10923 - 16383
Adding replica 20.0.0.55:6379 to 20.0.0.52:6379
Adding replica 20.0.0.60:6379 to 20.0.0.51:6379
Adding replica 20.0.0.48:6379 to 20.0.0.47:6379
M: dacbafd23b78accca1ecb7a37a926dd7c711af0d 20.0.0.52:6379 '133,129,130位主'
slots:[0-5460] (5461 slots) master
M: dacbafd23b78accca1ecb7a37a926dd7c711af0d 20.0.0.51:6379
slots:[5461-10922] (5462 slots) master
M: dacbafd23b78accca1ecb7a37a926dd7c711af0d 20.0.0.47:6379
slots:[10923-16383] (5461 slots) master
S: f3a25427b5b2bd0af5b194d0d90c87882a09e4cd 20.0.0.48:6379 '134,131,132为从'
replicates dacbafd23b78accca1ecb7a37a926dd7c711af0d
S: f3a25427b5b2bd0af5b194d0d90c87882a09e4cd 20.0.0.55:6379
replicates dacbafd23b78accca1ecb7a37a926dd7c711af0d
S: f3a25427b5b2bd0af5b194d0d90c87882a09e4cd 20.0.0.60:6379
replicates dacbafd23b78accca1ecb7a37a926dd7c711af0d
Can I set the above configuration? (type 'yes' to accept): yes
>>> Nodes configuration updated
>>> Assign a different config epoch to each node
>>> Sending CLUSTER MEET messages to join the cluster
Waiting for the cluster to join
>>> Performing Cluster Check (using node 20.0.0.52:6379)
M: dacbafd23b78accca1ecb7a37a926dd7c711af0d 20.0.0.52:6379
slots:[0-16383] (16384 slots) master
1 additional replica(s)
S: f3a25427b5b2bd0af5b194d0d90c87882a09e4cd 20.0.0.55:6379
slots: (0 slots) slave
replicates dacbafd23b78accca1ecb7a37a926dd7c711af0d
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All 16384 slots covered.
'一主一从的绑定关系是随机的'
3.3.7:集群验证
- 主从数据验证
[root@master1 rvm-master]# redis-cli -h 20.0.0.52 -p 6379 '登陆到133服务器数据库'
20.0.0.52:6379> keys *
(empty list or set)
20.0.0.52:6379> set user lisi '创建一个键值'
OK
20.0.0.52:6379> keys * '查看所有键'
1) "user"
20.0.0.52:6379> get user '查看user键的值'
"lisi"
20.0.0.52:6379> exit '退出'
[root@master1 rvm-master]# redis-cli -h 20.0.0.55 -p 6379 '登陆到131服务器数据库'
20.0.0.55:6379> keys *
1) "user"
20.0.0.55:6379> get user '//查看user键的值'
(error) MOVED 5474 20.0.0.51:6379 '//提示移动到129节点上'
20.0.0.55:6379> exit
[root@master1 rvm-master]# redis-cli -h 20.0.0.51 -p 6379 '登陆到129服务器的数据库'
20.0.0.51:6379> keys *
1) "user"
20.0.0.51:6379> get user
"lisi"
20.0.0.51:6379> exit
- hash方式存储的值验证与设置键的自动删除时间
[root@master1 rvm-master]# redis-cli -h 20.0.0.52 -p 6379
20.0.0.52:6379> hset person name zhangsan '使用hash方式创建键值对'
(integer) 1
20.0.0.52:6379> keys *
1) "person"
2) "user"
20.0.0.52:6379> hget person name
"zhangsan"
20.0.0.52:6379> expire user 10 '设置user键的自动删除时间10秒'
(integer) 1
'//等待10秒'
20.0.0.52:6379> keys *
1) "person" '成功自动删除'
20.0.0.52:6379> exit