Cluster概念
1、系统扩展方式:
Scale UP:向上扩展,增强
Scale Out:向外扩展,增加设备,调度分配问题,Cluster
2、Cluster:集群,为解决某个特定问题将多台计算机组合起来形成的单个系统
3、Linux Cluster类型:
· LB:Load Balancing,负载均衡
· HA:High Availiablity,高可用,SPOF(single Point Of failure)单点失败问题
MTBF:Mean Time Between Failure 平均无故障时间
MTTR:Mean Time To Restoration( repair)平均恢复前时间
A=MTBF/(MTBF+MTTR) (0,1):99%, 99.5%, 99.9%, 99.99%, 99.999%
4、 HPC:High-performance computing,高性能 www.top500.org
5、分布式系统:
分布式存储:云盘
分布式计算:hadoop,Spark
Cluster分类
1、 LB Cluster的实现
2、 硬件
F5 Big-IP
Citrix Netscaler
A10 A10
3、 软件
lvs:Linux Virtual Server #网络层,不具备健康性检查,由ldirectord实现
nginx:支持七层调度
haproxy:支持七层调度
ats:apache traffic server,yahoo捐助
perlbal:Perl 编写
pound
4、基于工作的协议层次划分:
传输层(通用):DPORT
LVS:
nginx:stream
haproxy:mode tcp
应用层(专用):针对特定协议,自定义的请求模型分类
proxy server:
http:nginx, httpd, haproxy(mode http), …
fastcgi:nginx, httpd, …
mysql:mysql-proxy, …
Cluster相关
1、会话保持:负载均衡
(1) session sticky:同一用户调度固定服务器 #黏住
Source IP:LVS sh算法(对某一特定服务而言)
Cookie #应用层
(2) session replication:每台服务器拥有全部session #复制
session multicast cluster
(3) session server:专门的session服务器
Memcached,Redis
2、HA集群实现方案
keepalived:vrrp协议
ais:应用接口规范
heartbeat
cman+rgmanager(RHCS)
coresync_pacemaker
LVS介绍
1、LVS:Linux Virtual Server,负载调度器,集成内核(阿里章文嵩所写,已被linus集成到内核中)
官网:http://www.linuxvirtualserver.org/
VS: Virtual Server,负责调度
RS: Real Server,负责真正提供服务
L4:四层路由器或交换机
2、 工作原理:VS根据请求报文的目标IP和目标协议及端口将其调度转发至某RS,根据调度算法来挑选RS
3、iptables/netfilter:
iptables:用户空间的管理工具
netfilter:内核空间上的框架
流入:PREROUTING –> INPUT #在INPUT上做工作进行调度
流出:OUTPUT –> POSTROUTING
转发:PREROUTING –> FORWARD –> POSTROUTING
DNAT:目标地址转换; PREROUTING
LVS概念
·lvs集群类型中的术语:
·VS:Virtual Server,Director Server(DS)
·Dispatcher(调度器),Load Balancer
·RS:Real Server(lvs), upstream server(nginx) backend server(haproxy)
·CIP:Client IP
·VI: Virtual serve IP VS外网的IP
·DIP: Director IP VS内网的IP
·RIP: Real server IP
·访问流程:CIP <–> VIP == DIP <–> RIP
·lvs: ipvsadm/ipvs
ipvsadm:用户空间的命令行工具,规则管理器
用于管理集群服务及RealServer
ipvs:工作于内核空间netfilter的INPUT钩子上的框架
·lvs集群的类型:
lvs-nat:修改请求报文的目标IP,多目标IP的DNAT
lvs-dr:操纵封装新的MAC地址
lvs-tun:在原请求IP报文之外新加一个IP首部
lvs-fullnat:修改请求报文的源和目标IP
lvs-nat模式
[root@cos7 boot ]#grep -i -C10 ipvs /boot/config-3.10.0-862.el7.x86_64
Cluster概念1、lvs-nat:
本质是多目标IP的DNAT,通过将请求报文中的目标地址和目标端口修改为某挑 出的RS的RIP和PORT实现转发
(1)RIP和DIP应在同一个IP网络,且应使用私网地址;RS的网关要指向DIP
(2)请求报文和响应报文都必须经由Director转发,Director易于成为系统瓶颈
(3)支持端口映射,可修改请求报文的目标PORT
(4)VS必须是Linux系统,RS可以是任意OS系统
如图
LVS-DR模式
1、LVS-DR:Direct Routing,直接路由,LVS默认模式,应用最广泛,通过为请求报文重新封装一个MAC首部进行转发,源MAC是DIP所在的接口的MAC,目标MAC是某挑选出的RS的RIP所在接口的MAC地址;源IP/PORT,以及目标IP/PORT均保持不变
(1) Director和各RS都配置有VIP
(2) 确保前端路由器将目标IP为VIP的请求报文发往Director
2、在前端网关做静态绑定VIP和Director的MAC地址
3、在RS上使用arptables工具
arptables -A IN -d $VIP -j DROP
arptables -A OUT -s $VIP -j mangle –mangle-ip-s $RIP
4、在RS上修改内核参数以限制arp通告及应答级别
/proc/sys/net/ipv4/conf/all/arp_ignore
/proc/sys/net/ipv4/conf/all/arp_announce
(3)RS的RIP可以使用私网地址,也可以是公网地址;RIP与DIP在同一IP网络; RIP的网关不能指向DIP,以确保响应报文不会经由Director
(4)RS和Director要在同一个物理网络
(5)请求报文要经由Director,但响应报文不经由Director,而由RS直接发往 Client
(6)不支持端口映射(端口不能修败)
(7)RS可使用大多数OS系统
图
主机的回环网卡
主机1
ip a a 1.1.1.1/32 dev lo
route add default dev eth0
主机2
ip a a 1.1.1.2/32 dev lo
route add default dev eth0
ping -I 1.1.1.1 1.1.1.2
tcpdump -nn icmp
vs理论上可以不配置默认路由,但实际需要配置