Nginx负载均衡的实现（四）

1.什么是反向代理与负载均衡

正向代理

我们有时候，用自己的计算机A想访问国外的某个网站B，但是访问不了，此时，有一台中间服务器C可以访问国外的网站B，那么，我们可以用自己的电脑访问服务器C，通过C来访问B这个网站。那么这个时候，服务器C称为代理服务器，这种访问方式叫做正向代理。

正向代理有一个特点，就是我们明确知道要访问哪个网站。

反向代理

当我们有一个服务器集中，并且服务器集群中的每台服务器的内容一样的时候，同样我们要直接从个人电脑访问到服务器集中的服务器的时候无法访问，且此时第三方服务器能访问集群，这个时候，我们通过第三方服务器访问服务器集群的内容，但是此时我们并不知道是哪一台服务器提供的内容，此时的代理方式称为反向代理，我们不知道我们要访问那个网站。

什么是负载均衡

当一台服务器的单位时间内的访问量越大的时候，服务器的压力会越大。当一台服务器压力大得超过自身的承受能力的时候，服务器会崩溃。为了避免服务器崩溃，让用户有更好地体验，我们通常通过负载均衡的方式来分担服务器的压力。那么什么是负载均衡呢？是这样，我们可以建立很多很多个服务器，这些服务器组成一个服务器集群，然后，当用户访问我们网站的时候，先访问一个中间服务器，再让这个中间服务器在服务器集群中选择一个压力较小的服务器，然后将该访问请求引入该选择的服务器。这样，用户的每次访问，都会保证服务器集群中的每个服务器的压力趋于平衡，分担了服务器压力，避免了服务器崩溃的情况。

Nginx负载均衡的实现

Nginx是一款可以通过反向代理实现负载均衡的服务器，使用Nginx服务实现负载均衡的时候，用户的访问首先会访问到Nginx服务器，然后Nginx服务器再从服务器集群表中选择压力较小的服务器，然后将该访问请求引向该服务器。若服务器集群中的某个服务器崩溃，那么从待选服务器列表中将该服务器删除，也就是说一个服务器假如崩溃了，那么Nginx就肯定不会将访问请求引入该服务器了。

一、内置负载策略

Nginx负载均衡是通过upstream模块来实现的，内置实现了三种负载策略，配置还是比较简单的。官网负载均衡配置说明：http://nginx.org/en/docs/http/load_balancing.html

• 轮循（默认）
  Nginx根据请求次数，将每个请求均匀分配到每台服务器
• 最少连接
  将请求分配给连接数最少的服务器。Nginx会统计哪些服务器的连接数最少。
• IP Hash
  绑定处理请求的服务器。第一次请求时，根据该客户端的IP算出一个HASH值，将请求分配到集群中的某一台服务器上。后面该客户端的所有请求，都将通过HASH算法，找到之前处理这台客户端请求的服务器，然后将请求交给它来处理。

1> 轮循

http {

    # ... 省略其它配置

    upstream tomcats {
        server 192.168.0.100:8080;
        server 192.168.0.101:8080;
        server example.com:8080;
    }

    server {
        listen 80;

        location / {
            proxy_pass http://tomcats;
        }
    }

    # ... 省略其它配置
}

• proxy_pass http://tomcats：表示将所有请求转发到tomcats服务器组中配置的某一台服务器上。
• upstream模块：配置反向代理服务器组，Nginx会根据配置，将请求分发给组里的某一台服务器。tomcats是服务器组的名称。

• upstream模块下的server指令：配置处理请求的服务器IP或域名，端口可选，不配置默认使用80端口。通过上面的配置，Nginx默认将请求依次分配给100，101，102来处理，可以通过修改下面这些参数来改变默认的分配策略：

  • weight
    默认为1，将请求平均分配给每台server

    upstream tomcats {
        server 192.168.0.100:8080 weight=2;  # 2/6次
        server 192.168.0.101:8080 weight=3;  # 3/6次
        server 192.168.0.102:8080 weight=1;  # 1/6次
    }

    上例配置，表示6次请求中，100分配2次，101分配3次，102分配1次

  • max_fails
    默认为1。某台Server允许请求失败的次数，超过最大次数后，在fail_timeout时间内，新的请求将不会分配给这台机器。如果设置为0，Nginx会将这台Server置为永久无效状态，然后将请求发给定义了proxy_next_upstream, fastcgi_next_upstream, uwsgi_next_upstream, scgi_next_upstream, and memcached_next_upstream指令来处理这次错误的请求。

  • fail_timeout
    默认为10秒。某台Server达到max_fails次失败请求后，在fail_timeout期间内，nginx会认为这台Server暂时不可用，不会将请求分配给它

    upstream tomcats {
        server 192.168.0.100:8080 weight=2 max_fails=3 fail_timeout=15;
        server 192.168.0.101:8080 weight=3;
        server 192.168.0.102:8080 weight=1;
    }

    192.168.0.100这台机器，如果有3次请求失败，nginx在15秒内，不会将新的请求分配给它。

  • backup
    备份机，所有服务器挂了之后才会生效

    upstream tomcats {
        server 192.168.0.100:8080 weight=2 max_fails=3 fail_timeout=15;
        server 192.168.0.101:8080 weight=3;
    
        server 192.168.0.102:8080 backup;
    }

    在100和101都挂了之前，102为不可用状态，不会将请求分配给它。只有当100和101都挂了，102才会被启用。

  • down
    标识某一台server不可用。可能能通过某些参数动态的激活它吧，要不真没啥用。

    upstream tomcats {
        server 192.168.0.100:8080 weight=2 max_fails=3 fail_timeout=15;
    
        server 192.168.0.101:8080 down;
    
        server 192.168.0.102:8080 backup;
    }

    表示101这台Server为无效状态，不会将请求分配给它。

  • max_conns
    限制分配给某台Server处理的最大连接数量，超过这个数量，将不会分配新的连接给它。默认为0，表示不限制。注意：1.5.9之后的版本才有这个配置

    upstream tomcats {
        server 192.168.0.100:8080 max_conns=1000;
    }

    表示最多给100这台Server分配1000个请求，如果这台Server正在处理1000个请求，nginx将不会分配新的请求给到它。假如有一个请求处理完了，还剩下999个请求在处理，这时nginx也会将新的请求分配给它。

  • resolve
    将server指令配置的域名，指定域名解析服务器。需要在http模块下配置resolver指令，指定域名解析服务

    http {
        resolver 10.0.0.1;
    
        upstream u {
            zone ...;
            ...
            server example.com resolve;
        }
    }

    表示example.com域名，由10.0.0.1服务器来负责解析。
    upstream模块server指令的其它参数和详细配置说明，请参考官方文档。

二、第三方负载策略

1> fair

根据服务器的响应时间来分配请求，响应时间短的优先分配，即负载压力小的优先会分配。

由于fair模块是第三方提供的，所以在编译nginx源码的时候，需要将fair添加到nginx模块中。

假设我的nginx是通过源码安装的，安装在/opt/nginx目录下，而且安装时没有添加fair模块

1> 下载fair模块源码
下载地址：https://github.com/xyang0917/nginx-upstream-fair

cd /opt
wget https://github.com/xyang0917/nginx-upstream-fair/archive/master.zip
unzip master.zip

解压后的目录名为：nginx-upstream-fair-master

2> 重新编译nginx，将fair模块添加到编译参数
我的nginx源码目录在/opt/nginx-1.10.0

cd /opt/nginx-nginx-1.10.0
./configure --prefix=/opt/nginx --add-module=/opt/nginx-upstream-fair-master
make

注意：不要执行make install，这样会覆盖之前nginx的配置
3> 将新编译的nginx可执行程序拷贝到/opt/nginx/sbin/目录下，覆盖之前安装的nginx
编译后的nginx执行程序，放在nginx源码的objs目录下

ps -aux | grep nginx
kill -9 nginx进程ID  # 停止nginx服务
cp /opt/nginx-1.10.0/objs/nginx /opt/nginx/sbin/  # 覆盖旧的nginx
nginx # 启动服务

配置使用fair负载策略模块：

upstream tomcats {
    fair;
    server 192.168.0.100:8080;
    server 192.168.0.101:8080;
    server 192.168.0.102:8080;
}

由于采用fair负载策略，配置weigth参数改变负载权重将无效。

2> url_hash

按请求url的hash结果来分配请求，使每个url定向到同一个后端服务器，服务器做缓存时比较有效。

1.7.2版本以后，url_hash模块已经集成到了nginx源码当中，不需要单独安装。之前的版本仍需要单独安装，下载地址：https://github.com/evanmiller/nginx_upstream_hash
安装方法和fair模块一样，先下载url_hash源码，然后重新编译nginx源码，将url_hash模块添加到编译配置参数当中，最后将编译后生成的nginx二进制文件替换之前安装的nginx二进制文件即可。

upstream tomcats {
    server 192.168.0.100:8080;
    server 192.168.0.101:8080;
    server 192.168.0.102:8080;
    hash $request_uri;
}

那么下面，我们通过实例来讲解一下Nginx负载均衡的实现。

新建配置文件fzjh.conf，输入如下配置

user nobody;
worker_processes 4;
events{
    worker_connections 1024;
    }
http{
    upstream myproject {
        server 182.18.22.2:80;
        server 118.144.78.52;
                }
    server {
        listen 8080;
        location / {
            proxy_pass http://myproject;
                }
        }

    }

测试一下

http://127.0.0.1:8080/测试

 其他负载均衡实现的常用方式
负载均衡的实现方法除了可以使用Nginx服务器实现外，还可以通过很多种方法来实现。负载均衡的核心就是建立一个服务器集群，然后用户首先访问到第三方代理服务器，然后由代理服务器选择一个集群中的服务器，然后将请求引入选定的服务器。那么代理服务器可以使用多种方式来充当，故而实现负载均衡的方式也是多种。

总的来说，负载均衡实现的方式分为软件实现和硬件实现两种，如果中间的代理机构是硬件，那么就是通过硬件设备来实现负载均衡的方式，如果中间的代理机构为软件，就是软件实现负载均衡的方式。而其中，软件又可以是服务器软件、系统软件以及应用软件等充当。实现负载均衡常用的Web服务器软件有Nginx、HAProxy、LVS、Apache。

负载均衡不同实现方式的优缺点：

假如使用硬件的方式实现负载均衡，那么中间的转发机构就是硬件，这个时候运行的效率非常高，但是对应的成本也非常高。如果我们采用软件的方式来实现负载均衡，那么中间的转发机构就是软件，这个时候，运行效率不如硬件，但是成本相对来说低得多。而使用Nginx服务器实现负载均衡，那么就是通过软件的方式来实现负载均衡，并且Nginx本身支持高并发等。故而使用Nginx服务器实现负载均衡，能大大节约企业的成本，并且由于Nginx是服务器软件，其执行效率也是非常高。