Keepalived+Redis+Haproxy实现主从热备、负载均衡、秒级切换

Keepalived+Redis+Haproxy实现主从热备、负载均衡、秒级切换

• 部署Redis集群

1）官方推荐，毋庸置疑。
2）去中心化，集群最大可增加1000个节点，性能随节点增加而线性扩展。
3）管理方便，后续可自行增加或摘除节点，移动分槽等等。
4）简单，易上手。

 

首先用两台虚拟机模拟6个节点，一台机器3个节点，创建出3 master、3 salve 环境。然后模拟成功，方可去线上生产服务器部署。

redis 采用 redis-3.2.4 版本。

两台虚拟机都是 CentOS

一台 CentOS6.5 （IP:192.168.52.50），

一台 CentOS7（IP:192.168.52.51）

安装过程
 

1. 下载并解压

cd /root/tools

wget http://download.redis.io/releases/redis-3.2.4.tar.gz

tar xf redis-3.2.4.tar.gz　

 

2. 编译安装

cd redis-3.2.4 make && make install

3. 将 redis-trib.rb 复制到 /usr/local/bin 目录下

cd src

cp redis-trib.rb /usr/local/bin/　

4. 创建 Redis 节点

首先在 192.168.52.50 机器上 /root/tools/redis-3.2.4 目录下创建 redis_cluster 

目录；

mkdir redis_cluster

在 redis_cluster 目录下，创建名为7000、7001、7002的目录，并将 redis.conf 拷贝到这三个目录中

mkdir 7000 7001 7002

cp redis.conf redis_cluster/7000

cp redis.conf redis_cluster/7001

cp redis.conf redis_cluster/7002

分别修改这三个配置文件，修改如下内容

port  7000                            //端口7000,7001,7002

bind 本机ip                           //默认ip为127.0.0.1 需要改为其他节点机器可访问的ip 否则创建集群时无法访问对应的端口，无法创建集群

daemonize yes      //redis后台运行

pidfile  /var/run/redis_7000.pid          //pidfile文件对应7000,7001,7002

cluster-enabled  yes              //开启集群  把注释#去掉

cluster-config-file nodes_7000.conf   //集群的配置  配置文件首次启动自动生成 7000,7001,7002

cluster-node-timeout  15000   //请求超时  默认15秒，可自行设置

appendonly  yes                       //aof日志开启

有需要就开启，它会每次写操作都记

录一条日志

接着在另外一台机器上（192.168.52.51），的操作重复以上三步，只是把目录改

为7003、7004、7005，对应的配置文件也按照这个规则修改即可

5. 启动各个节点

第一台机器上执行（在/src目录下）
redis-server ../redis_cluster/7000/redis.conf

redis-server ../redis_cluster/7001/redis.conf

redis-server ../redis_cluster/7002/redis.conf

另外一台机器上执行

redis-server ../redis_cluster/7003/redis.conf

redis-server ../redis_cluster/7004/redis.conf

redis-server ../redis_cluster/7005/redis.conf

6. 检查 redis 启动情况

##一台机器

ps -ef | grep redis

netstat -tnlp | grep redis

##另外一台机器

7.创建集群

Redis 官方提供了 redis-trib.rb 这个工具，就在解压目录的 src 目录中，第三步中已

将它复制到 /usr/local/bin 目录中，可以直接在命令行中使用了。使用下面这个命令

完成安装。

redis-trib.rb  create  --replicas 1 192.168.52.50:7000 192.168.52.50:7001 192.168.52.50:7002 192.168.52.51:7003 192.168.52.51:7004 192.168.52.51:7005

其中，前三个 ip:port 为第一台机器的节点，剩下三个为第二台机器。等等，出错了。这个工具是用 ruby 实现的，所以需要安装 ruby。安装命令如下：

yum -y install ruby ruby-devel rubygems rpm-build

gem install redis

报错：

gem install redis

    ERROR:  Error installing redis:

     redis requires Ruby version >= 2.2.2.

CentOS7 yum库中ruby的版本支持到 2.0.0，可gem 安装redis需要最低是2.2.2，采用rvm来更新ruby：

解决报错：

//具体RVM安装命令地址：http://rvm.io/

[root@linux ~]# gpg --keyserver hkp://keys.gnupg.net --recv-keys 409B6B1796C275462A1703113804BB82D39DC0E3 7D2BAF1CF37B13E2069D6956105BD0E739499BDB 

[root@linux ~]# curl -sSL https://get.rvm.io | bash -s stable

[root@linux ~]# find / -name rvm -print

[root@linux ~]# source /usr/local/rvm/scripts/rvm

[root@linux ~]# rvm install 2.4.1

[root@linux ~]# rvm use 2.4.1

[root@linux ~]# rvm use 2.4.1 --default

[root@linux ~]# rvm remove 2.0.0

[root@linux ~]# ruby --version

[root@linux ~]# gem install redis

之后再运行 redis-trib.rb 命令，会出现如下提示：

8. 集群验证

在第一台机器上连接集群的7002端口的节点，在另外一台连接7005节点，连接方式为 

redis-cli -h 192.168.52.50 -c -p 7002 ,加参数 -C 可连接到集群，因为上面 redis.conf 将 

bind 改为了ip地址，所以 -h 参数不可以省略。

在7005节点执行命令 set hello world ，执行结果如下：

在另外一台7002端口，查看 key 为 hello 的内容，get hello ，执行结果如下：

说明集群成功

简单说一下原理

redis cluster在设计的时候，就考虑到了去中心化，去中间件，也就是说，集群中的

每个节点都是平等的关系，都是对等的，每个节点都保存各自的数据和整个集群的

状态。每个节点都和其他所有节点连接，而且这些连接保持活跃，这样就保证了

我们只需要连接集群中的任意一个节点，就可以获取到其他节点的数据。

Redis 集群没有并使用传统的一致性哈希来分配数据，而是采用另外一种叫做哈希槽

 (hash slot)的方式来分配的。redis cluster 默认分配了 16384 个slot，当我们set一个

key 时，会用CRC16算法来取模得到所属的slot，然后将这个key 分到哈希槽区间的节点上，

具体算法就是：CRC16(key) % 16384。所以我们在测试的时候看到set 和 get 的时候，直接

跳转到了7000端口的节点。

Redis 集群会把数据存在一个 master 节点，然后在这个 master 和其对应的salve 之

间进行数据同步。当读取数据时，也根据一致性哈希算法到对应的 master 节点获取

数据。只有当一个master 挂掉之后，才会启动一个对应的 salve 节点，充当 master 

需要注意的是：必须要3个或以上的主节点，否则在创建集群时会失败，并且当存活的主节

点小于总节点数的一半时，整个集群就无法提供服务了。

二、部署Keepalived，实现主从热备、秒级切换

redis1：192.168.52.50

redis2：192.168.52.51

VIP地址：192.168.52.91

1、安装keepalived

yum install keepalived -y

2、修改配置文件

redis1：

[root@master ~]# cat /etc/keepalived/keepalived.conf

global_defs {

   notification_email {

        [email protected]

   }

   notification_email_from [email protected]

   smtp_server 127.0.0.1

   smtp_connect_timeout 30

   router_id LVS_DEVEL

}

vrrp_instance VI_1 {

    state MASTER

    interface ens33

    virtual_router_id 51 #主备必须一致

    priority 99

    authentication {

        auth_type PASS

        auth_pass 1111

    }

 

    virtual_ipaddress {

        192.168.52.91 #VRRP HA虚拟地址

    }

}

redis2:

[root@node1 ~]# cat /etc/keepalived/keepalived.conf

global_defs {

   notification_email {

        [email protected]

   }

   notification_email_from [email protected]

   smtp_server 127.0.0.1

   smtp_connect_timeout 30

   router_id LVS_DEVEL

}

vrrp_instance VI_1 {

    state MASTER

    interface ens33

    virtual_router_id 51

    priority 99

    authentication {

        auth_type PASS

        auth_pass 1111

    }

    virtual_ipaddress {

        192.168.52.91

    }

}

 

 

3、开启服务、验证是否有VIP地址

[root@master1 keepalived]# systemctl restart keepalived

[root@master1 keepalived]# ip add

 

• 部署haproxy，实现访问6379端口时，轮询访问六个节点

1）下载版本1.8.14版本的harpoxy软件并安装

tar xf haproxy-1.8.14.tar.gz

cd haproxy-1.8.14

make ARCH=x86_64 TARGET=linux2628 USE_PCRE=1 USE_OPENSSL=1 USE_ZLIB=1 USE_SYSTEMD=1 USE_CPU_AFFINITY=1 PREFIX=/usr/local/haproxy

make install PREFIX=/usr/local/haproxy

cp haproxy  /usr/sbin/

2）配置haproxy相关的参数

 [root@master1 init.d]# vim /usr/lib/systemd/system/haproxy.service

[Unit]

Description=HAProxy Load Balancer

After=syslog.target network.target

 

[Service]

ExecStartPre=/usr/sbin/haproxy -f /etc/haproxy/haproxy.cfg -f /etc/haproxy/conf -c -q

ExecStart=/usr/sbin/haproxy -Ws -f /etc/haproxy/haproxy.cfg -f /etc/haproxy/conf -p /run/haproxy.pid

ExecReload=/bin/kill -USR2 $MAINPID

 

[Install]

WantedBy=multi-user.target

[root@master1 init.d]#  vim /etc/haproxy/conf/redis.cfg

listen  redis-api-6379

 bind 0.0.0.0:6379  #对client提供的VIP

 mode tcp

 server 192.168.52.50  192.168.52.50:7000  check inter 3000 fall 3 rise 5

 server 192.168.52.50  192.168.52.50:7001  check inter 3000 fall 3 rise 5

 server 192.168.52.50  192.168.52.50:7002  check inter 3000 fall 3 rise 5

 server 192.168.52.51  192.168.52.51:7003  check inter 3000 fall 3 rise 5

 server 192.168.52.51  192.168.52.51:7004  check inter 3000 fall 3 rise 5

 server 192.168.52.51  192.168.52.51:7005  check inter 3000 fall 3 rise 5

[root@master1 init.d]# vim /etc/haproxy/haproxy.cfg

global

maxconn 100000

chroot /usr/local/haproxy

stats socket /var/lib/haproxy/haproxy.sock mode 600 level admin

uid 99

gid 99

daemon

nbproc 4

cpu-map 1 0

cpu-map 2 1

cpu-map 3 2

cpu-map 4 3

pidfile /usr/local/haproxy/run/haproxy.pid

log 127.0.0.1 local3 info

 

defaults

option http-keep-alive

option  forwardfor

maxconn 100000

mode http

timeout connect 300000ms

timeout client  300000ms

timeout server  300000ms

 

listen stats

 mode http

 bind 0.0.0.0:9999

 stats enable

 log global

 stats uri     /haproxy-status

 stats auth    haadmin:123456

测试

haproxy 访问端口9999 账号密码 haadmin:123456

http://192.168.52.91:9999/haproxy-status