主从配置
主从概念
一个master可以拥有多个slave,一个slave又可以拥有多个slave,如此下去,形成了强大的多级服务器集群架构(还可以防止主服务挂掉,从服务可以备份数据) master用来写数据,slave用来读数据,经统计:网站的读写比率是10:1 通过主从配置可以实现读写分离
配置主
查看当前主机ip地址 ifconfig 修改etc/redis/redis.conf sudo vi /etc/redis/redis.conf #进入后改绑定的ip bind 192.168.26.128
配置从
复制etc/redis/redis.conf文件 sudu cp redis.conf slave.conf #文件名可以任意,不过启动服务时要指定正确的配置文件的名字 修改redis/slave.conf文件 sudo vi slave.conf 编辑内容 bind 192.168.26.128 slaveof 192.168.26.128 6379 port 6378 #端口不能重复 redis服务 sudo redis-server slave.conf 查看主从关系 redis-cli -h 192.168.26.128 info Replication 连接主客户端 redis-cli -h 172.16.179.131 -p 6379 #-p 6379是默认值可以省略 连接从客户端 redis-cli -h 172.16.179.131 -p 6378
集群配置
为什么要有集群
之前我们就讲了主从的概念,一主可以多从,如果同时的访问量过大(1000w),主服务肯定就会挂掉,数据服务就挂掉了或者发生自然灾害 大公司都会有很多的服务器(华东,华南,华中,西北,西南,东北,台港澳)
集群的概念
集群是一组相互独立的,通过高速网络互联的计算机,它们构成一个组,并以单一系统的模式加以管理。一个客户与集群相互作用时,集群像是一个独立的服务器。集群配置是用于提高可用性和可缩放性,当请求到来首先由负载均衡服务器处理,把请求转发到另外的一台服务器上
redis集群
分类
软件层面 只有一台电脑,在这一台电脑上启动了多个redis服务
硬件层面 存在多台实体的电脑,每台电脑都启动了一个redis或者多个redis服务
搭建集群
当前拥有两台主机172.16.179.130 172.16.179.131 这里的IP在使用时要改为实际值
配置机器1
在演示中,172.16.179.130为当前ubuntu机器的ip
在172.16.179.130上进入Desktop目录,创建conf目录
在conf目录下创建文件7000,编辑内容如下
port 7000 bind 172.16.179.130 daemonize yes pidfile 7000.pid cluster-enabled yes cluster-config-file 7000_node.conf cluster-node-timeout 15000 appendonly yes
接下来就是改ip和端口和pid,建三个文件
总结:三个文件的配置区别在于port,pidfile,cluster-config-file三项
使用配置文件启动redis服务
redis-server 7000.conf redis-server 7001.conf redis-server 7002.conf
配置机器2
在演示中,172.16.179.131为当前ubuntu机器的ip
在172.16.179.131上进入Desktop目录,创建conf目录
在conf目录下创建文件7003,编辑内容如下
port 7003 bind 172.16.179.131 daemonize yes pidfile 7003.pid cluster-enabled yes cluster-config-file 7003_node.conf cluster-node-timeout 15000 appendonly yes
接下来就是改ip和端口和pid,建三个文件
总结:三个文件的配置区别在于port,pidfile,cluster-config-file三项
使用配置文件启动redis服务
redis-server 7003.conf redis-server 7004.conf redis-server 7005.conf
创建集群
redis的安装包中包含了redis-trib.rb,用于创建集群
接下来的操作在172.16.179.130机器上进行
将命令复制,这样可以在任何目录下调用此命令
sudo cp /usr/share/doc/redis-tools/examples/redis-trib.rb /usr/local/bin/
安装ruby环境,因为redis-trib.rb是用ruby开发的
sudo apt-get install ruby
在提示信息处输入y,然后回车继续安装
运行如下命令创建集群
redis-trib.rb create --replicas 1 172.16.179.130:7000 172.16.179.130:7000 172.16.179.130:7000 。。。
执行上面这个指令在某些机器上可能会报错,主要原因是由于安装的 ruby不是最新版本
防火墙导致无法下载最新版本,所以需要设置gem的源
解决办法如下
先查看自己的gem源是什么地址
gem source -l 如果是https://rubygems.org/ 就需要更换
更换命令为
gem source --add htpps://gems.ruby-china.org/ --remove https://rubygems.org/
通过gem 安装redis 的相关依赖
sudo gem install redis
然后重新执行命令
redis集群中有槽的概念
集群中的主节点负责处理槽(存储数据),从节点则是主节点的复制品
Redis集群将整个数据库分成了16384个槽,数据库中的每一个建都属于16384个槽中的一个
槽会平均的分配到主节点上
在哪个服务器上写数据:CRC16
redis cluster在设计的时候,就考虑到了去中心化,去中间件,也就是说,集群中的每个节点都是平等 的关系,都是对等的,每个节点都保存各自的数据和整个集群的状态。每个节点都和其他所有节点连 接,而且这些连接保持活跃,这样就保证了我们只需要连接集群中的任意一个节点,就可以获取到其他 节点的数据 Redis集群没有并使用传统的一致性哈希来分配数据,而是采用另外一种叫做哈希槽(hash slot)的方式 来分配的。redis cluster 默认分配了16384个slot,当我们set一个key时,会用CRC16算法来取模得 到所属的slot,然后将这个key分到哈希槽区间的节点上,具体算法就是:CRC16(key) % 16384。所以 我们在测试的时候看到set和get的时候,直接跳转到了7000端口的节点 Redis 集群会把数据存在一个master 节点,然后在这个master和其对应的salve之间进行数据同步。 当读取数据时,也根据一致性哈希算法到对应的master节点获取数据。只有当一个master 挂掉之后, 才会启动一个对应的salve节点,充当master 需要注意的是:必须要3个或以上的主节点,否则在创建集群时会失败,并且当存活的主节点数小于总 节点数的一半时,整个集群就无法提供服务了
只要连接一个节点就连接到了整个集群,不分主或从
详细参考 blog.csdn.net/vtopqx/article/details/49246521
Python和集群交互
安装包如下
pip install redis-py-cluster
redis-py-cluster源码地址 https://github.com/Grokzen/redis-py-cluster
redis-py-cluster.py, 实例代码如下
from rediscluster import StrictRedisCluster if __name__=="__main__": try: #构建所有的节点,Redis会使用CRC16算法,将键和值写到某个节点上 startup_nodes = [ {'host':'172.16.179.131','port':'7000'}, {'host':'172.16.179.142','port':'7003'}, {'host':'172.16.179.131','port':'7002'}, ] #构建StrictRedisCluster 对象 src=StrictRedisCluster(startup_nodes=startup_nodes, decode_responses=True) #设置键为name,值为abc的数据 result=src.set('name','abc') print(result) #获取键为name name = src.get('name') print(name) except Exception as m: print(m)
参考资料
redis搭建集群 http://www.cnblogs.com/wuxl360/p/5920330.html
python 搭建redis集群 http://blog.5ibc.net/p/51020.html