容器服务更新与发现拓扑图
在consul服务器上部署nginx代理服务,registrator检测到docker容器中的服务,注册添加到consul中,consul-template根据consul中的服务信息,注册写入创建好的template模板中,设置nginx代理服务器识别consul-template生成的模板文件,外部网络用户通过访问nginx代理服务器即可访问docker容器内的nginx服务
Consul
(1)Consul是HashiCrop公司推出的开源工具,用于实现分布式系统的服务发现与配置
(2)Consul的特性
- Consul支持健康检查,允许存储键值对
- 一致性协议采用Raft算法,用来保证服务的高可用
- 成员管理和消息广播采用GOSSIP协议,支持ACL访问控制
(3)方便部署,与Docker等轻量级容器可无缝配合
需要的服务
consul
- 每个提供服务的节点上都要部署和运行Consul的agent
- Consul agent有两种运行模式
Server
Client - Server和Client只是Consul集群层面的区分,与搭建在Cluster之上的应用服务无关
consul-template
- 是基于Consul的自动替换配置文件的应用
- 可以查询Consul中的服务目录、Key、Key-values等
- 特别适合动态的创建配置文件
Gliderlabs/Registrator
- 检查容器运行状态
- 自动注册和注销docker容器的服务到服务配置中心
- 目前支持Consul、Etcd和SkyDNS2
实验部署
- 部署consul服务,实现部署nginx服务的自动发现和实现nginx的负载均衡服务
1、服务器软件部署分配
- 服务器1:192.168.7.129
Docker-ce、Compose 3、Consul、Consul-template - 服务器2:192.168.7.168
Docker-ce、registrator
2、构建自动发现的Docker服务架构(在192.168.7.129节点)
(1)建立Consul服务
[root@consul ~]# mkdir consul
[root@consul ~]# cp /opt/consul_0.9.2_linux_amd64.zip /root/consul/
[root@consul ~]# cd /root/consul/
[root@consul consul]# unzip consul_0.9.2_linux_amd64.zip
[root@consul consul]# ls
consul consul_0.9.2_linux_amd64.zip
[root@consul consul]# mv consul /usr/bin/
[root@docker consul]# consul agent \ //使用代理功能
-server \ //提供server功能
-bootstrap \ //参与选举为领袖
-ui \ //提供web访问界面
-data-dir=/var/lib/consul-data \ //参数存储位置
-bind=192.168.7.129 \ //绑定地址
-client=0.0.0.0 \ //面对所有节点终端
-node=consul-server01 &> /var/log/consul.log & //指定本地节点名称,指定日志文件目录,放在后台运行
(2)查看集群信息
[root@consul consul]# consul members
Node Address Status Type Build Protocol DC
consul-server01 192.168.7.129:8301 alive server 0.9.2 2 dc1
[root@consul consul]# consul info | grep leader
leader = true
leader_addr = 192.168.7.129:8300
(3)通过httpd api获取集群信息
[root@consul ~]# curl 127.0.0.1:8500/v1/status/peers //查看集群server成员
[root@consul ~]# curl 127.0.0.1:8500/v1/status/leader //查看领导者信息
[root@consul ~]# curl 127.0.0.1:8500/v1/catalog/services //注册的所有服务
[root@consul ~]# curl 127.0.0.1:8500/v1/catalog/nginx //查看nginx服务信息
[root@consul ~]# curl 127.0.0.1:8500/v1/catalog/nodes //集群节点详细信息
3、容器服务自动添加到nginx集群
(1)安装Gliderlabs/Registrator(在192.168.7.168节点)
[root@docker ~]# docker run -d \
--name=registrator \ //指定名称
--net=host \ //指定网络
-v /var/run/docker.sock:/tmp/docker.sock \ //指定数据卷
--restart=always \ //restart功能
gliderlabs/registrator:latest \
-ip=192.168.7.168 \ //指定本地IP地址
consul://192.168.7.129:8500
(2)添加nginx服务
[root@docker ~]# docker run -itd -p:83:80 --name test-01 -h test01 nginx
[root@docker ~]# docker run -itd -p:84:80 --name test-02 -h test02 nginx
[root@docker ~]# docker ps -a
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
960d01d212c4 nginx "nginx -g 'daemon of…" 4 seconds ago Up 3 seconds 0.0.0.0:84->80/tcp test-02
bc075c1c3670 nginx "nginx -g 'daemon of…" 59 seconds ago Up 57 seconds 0.0.0.0:83->80/tcp test-01
5dd120cd1232 gliderlabs/registrator:latest "/bin/registrator -i…" 3 minutes ago Up 3 minutes registrator
(3)验证nginx服务是否注册到consul,浏览器输入"http://192.168.7.129:8500"
- 显示服务已经注册到consul
- 在consul服务骑上查看服务
[root@consul consul]# curl 127.0.0.1:8500/v1/catalog/services
{"consul":[],"nginx":[]}
(4)准备template nginx模板文件(在192.168.7.129节点)
[root@consul ~]# vim /root/consul/nginx.ctmpl
upstream http_backend {
{{range service "nginx"}}
server {{.Address}}:{{.Port}};
{{end}}
}
server {
listen 83;
server_name localhost 192.168.7.129;
access_log /var/log/nginx/kgc.cn-access.log;
index index.html index.php;
location / {
proxy_set_header HOST $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header Client-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_pass http://http_backend;
}
}
(5)编译安装并配置nginx(在192.168.7.129节点)
[root@consul ~]# yum install gcc pcre-devel zlib-devel -y
[root@consul ~]# tar zxvf nginx-1.12.0.tar.gz -C /opt
[root@consul ~]# cd /opt/nginx-1.12.0
[root@consul ~]# ./configure --prefix=/usr/local/nginx
[root@consul ~]# make && make install
[root@consul ~]# vim /usr/local/nginx/conf/nginx.conf
http {
include mime.types;
include vhost/*.conf; //添加虚拟主机目录
default_type application/octet-stream;
#创建虚拟主机目录
[root@consul ~]# mkdir /usr/local/nginx/conf/vhost
#创建日志文件目录
[root@consul ~]# mkdir /var/log/nginx
#启动nginx
/usr/local/nginx/sbin/nginx
(6)配置并启动template
- 上传consul-template_0.19.3_linux_amd64.zip到/root/consul目录下
[root@consul consul]# unzip consul-template_0.19.3_linux_amd64.zip
[root@consul consul]# mv consul-template /usr/bin
[root@consul consul]# consul-template -consul-addr 192.168.7.129:8500 \
-template "/root/consul/nginx.ctmpl:/usr/local/nginx/conf/vhost/aaa.conf:/usr/local/nginx/sbin/nginx -s reload" \
--log-level=info
#启动后,会在vhost目录下自动生成aaa.conf配置文件
[root@consul ~]# ls /usr/local/nginx/conf/vhost/
aaa.conf
- 使用浏览器访问
http://192.168.7.129:83
,查看容器nginx的访问日志
(7)增加一个nginx容器节点,测试服务发现及配置更新功能(在registrator服务端增加)
[root@docker ~]# docker run -itd -p:85:80 --name test-03 -h test03 nginx
- consul服务器监控会有提示自动更新
- 如果关闭一个容器节点,会在consul服务端注销此容器节点