一.什么是反向代理
反向代理（Reverse Proxy）方式是指以代理服务器来接受Internet上的连接请求，然后将请求转发给内部网络上的服务器，并将从服务器上得到的结果返回给Internet上请求连接的客户端，此时代理服务器对外就表现为一个服务器。
在这里插入图片描述
反向代理有以下优点：
1.可以起到保护网站安全的作用，因为任何来自Internet的请求都必须先经过代理服务器。
2.通过缓存静态资源，加速Web请求。
3.实现负载均衡。顺便说下，目前市面上，主流的负载均衡方案，硬件设备有F5，软件方案有四层负载均衡的LVS，七层负载均衡的Nginx、Haproxy等。
在生产环境，Tomcat服务器一般不单独使用在项目中，我们一般通过nginx用于反向代理的服务器，并将请求转发给后端多台Tomcat服务器，从而达到负载均衡的目的。
二.反向代理配置
#1.进入nginx配置文件夹
cd /usr/local/nginx/conf
#2.打开nginx.conf文件进行配置
vim nginx.conf
将下面的代码复制进nginx.conf文件
#反向代理tomcat
server {
# 监听端口80 即当访问服务器的端口是80时，进入这个server块处理
listen 80;
# server_name当配置了listen时不起作用
server_name xxx.xxx.xxx.xxx;
# location后面代表访问路径 当是/ 请求时 代理到tomcat的地址
location / {
# 使用 proxy_pass（固定写法）后面跟要代理服务器地址
proxy_pass http://xxx.xxx.xxx.xxx:8080;
}
}
刷新配置并启动
cd /usr/local/nginx/sbin
./nginx -t
./nginx -s reload
/usr/local/nginx/sbin/nginx
location指令说明
描述：该指令用于匹配URL
语法：
在这里插入图片描述
通配符：
= ：用于不含正则表达式的 uri 前，要求请求字符串与 uri 严格匹配，如果匹配成功，就停止继续向下搜索并立即处理该请求。
~ ：用于表示 uri 包含正则表达式，并且区分大小写。
~* ：用于表示 uri 包含正则表达式，并且不区分大小写。
^~ ：用于不含正则表达式的 uri 前，要求 Nginx 服务器找到标识 uri 和请求字符串匹配度最高的 location
后，立即使用此 location 处理请求，而不再使用 location 块中的正则 uri 和请求字符串做匹配。
注意：如果 uri 包含正则表达式，则必须要有 ~ 或者 ~ 标识。*
三.负载均衡
客户端发送多个请求到服务器，服务器处理请求，有一些可能要与数据库进行交互，服务器处理完毕后，再将结果返回给客户端。
这种架构模式对于早期的系统相对单一，并发请求相对较少的情况下是比较适合的，成本也低。但是随着信息数量的不断增长，访问量和数据量的飞速增长，以及系统业务的复杂度增加，这种架构会造成服务器相应客户端的请求日益缓慢，并发量特别大的时候，还容易造成服务器直接崩溃。很明显这是由于服务器性能的瓶颈造成的问题，那么如何解决这种情况呢？
我们首先想到的可能是升级服务器的配置，比如提高 CPU 执行频率，加大内存等提高机器的物理性能来解决此问题，但是我们知道摩尔定律的日益失效，硬件的性能提升已经不能满足日益提升的需求了。最明显的一个例子，天猫双十一当天，某个热销商品的瞬时访问量是极其庞大的，那么类似上面的系统架构，将机器都增加到现有的顶级物理配置，都是不能够满足需求的。那么怎么办呢？
上面的分析我们去掉了增加服务器物理配置来解决问题的办法，也就是说纵向解决问题的办法行不通了，那么横向增加服务器的数量呢？这时候集群的概念产生了，单个服务器解决不了，我们增加服务器的数量，然后将请求分发到各个服务器上，将原先请求集中到单个服务器上的情况改为将请求分发到多个服务器上，将负载分发到不同的服务器，也就是我们所说的负载均衡。
在这里插入图片描述
#1.进入nginx配置文件夹
cd /usr/local/nginx/conf
#2.打开nginx.conf文件进行配置
vim nginx.conf
将下面的代码复制进nginx.conf文件
#负载均衡
upstream tomcats {
server 127.0.0.1:9001;
server 127.0.0.1:9002;
}
server {
listen 80;
server_name xxx.xxx.xxx.xxx.109;
location / {
proxy_pass_header Server;
proxy_set_header Host $http_host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Scheme $scheme;
proxy_pass http://tomcats;
}
}
upstream还可以为每个设备设置状态值，这些状态值的含义分别如下：
- down：表示单前的server暂时不参与负载.
- weight：默认为1.weight越大，负载的权重就越大。
- max_fails：允许请求失败的次数默认为1.当超过最大次数时，返回proxy_next_upstream 模块定义的错误.
- fail_timeout : max_fails次失败后，暂停的时间。
- backup： 其它所有的非backup机器down或者忙的时候，请求backup机器。所以这台机器压力会最轻。
upstream tomcats{
server 127.0.0.1:9001 down;
server 127.0.0.1:9002 backup;
server 127.0.0.1:9003 weight=2;
server 127.0.0.1:9004 max_fails=2 fail_timeout=60s;
}
启动两台tomcat，分别占用端口8080,8090
#注意：
启动第二台tomcat，只需修改启动端口号以及关闭端口号
配置文件为 /usr/local/tomcat2/conf/server.xml
分配策略
none（轮询）
upstream按照轮询（默认）方式进行负载，每个请求按时间顺序逐一分配到不同的后端服务器，如果后端服务器down掉，能自动剔除。虽然这种方式简便、成本低廉。但缺点是：可靠性低和负载分配不均衡。
weight（权重）
server 192.168.61.22 weight = 6; # 60% 请求
server 192.168.61.23 weight = 4; # 40% 请求
ip_hash（访问ip）
每个请求按访问ip的hash结果分配，这样每个访客固定访问一个后端服务器，可以解决session的问题。
配置只需要在upstream中加入ip_hash;即可。
upstream tomcats {
ip_hash;
server 127.0.0.1:9001;
server 127.0.0.1:9002;
}
fair（第三方）
按后端服务器的响应时间来分配请求，响应时间短的优先分配。与weight分配策略类似。
upstream tomcats {
server 127.0.0.1:9001;
server 127.0.0.1:9002;
fair;
}
url_hash（第三方）
和IP哈希类似，只不过针对请求的url进行hash（基于缓存的server，页面静态化）。
模板
upstream tomcats {
server ip:8080;
}
server {
listen 80;
server_name www.lianggzone.com;
location / {
proxy_pass http://tomcats;
#Proxy Settings
proxy_redirect off;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_next_upstream error timeout invalid_header http_500 http_502 http_503 http_504;
proxy_max_temp_file_size 0;
proxy_connect_timeout 90;
proxy_send_timeout 90;
proxy_read_timeout 90;
proxy_buffer_size 4k;
proxy_buffers 4 32k;
proxy_busy_buffers_size 64k;
proxy_temp_file_write_size 64k;
}
}
【案例一：反向代理chatGPT的openAI接口的解决方案】
--------------------------------------------------------------------------------------------------------------------------------
反向代理如果出现502错误，则按下面方法解决：
打开海外宝塔面板 -> 站点设置 -> 反向代理 -> 配置文件
server{
listen 80;
server_name openai.yinggu.club; #代理服务器域名
location /
{
proxy_pass https://api.openai.com; #被代理域名
proxy_set_header Host api.openai.com;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header REMOTE-HOST $remote_addr;
proxy_set_header Upgrade $http_upgrade;
proxy_set_header Connection $connection_upgrade;
proxy_http_version 1.1;
# proxy_hide_header Upgrade;
#代码下面，新增
proxy_ssl_server_name on;
#即可
}
}
【案例二：自建服务器实现负债均衡】
--------------------------------------------------------------------------------------------------------------------------------
upstream tomcats{
#server 127.0.0.1:9001 down;
#server 127.0.0.1:9002 backup;
#server 127.0.0.1:9003 weight=2;
#server 127.0.0.1:9004 max_fails=2 fail_timeout=60s;
server api.openai.com;
}
server {
listen 80;
server_name openai.yinggu.club;
location / {
proxy_pass http://tomcats;
#Proxy Settings
proxy_redirect off;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_next_upstream error timeout invalid_header http_500 http_502 http_503 http_504;
proxy_max_temp_file_size 0;
proxy_connect_timeout 90;
proxy_send_timeout 90;
proxy_read_timeout 90;
proxy_buffer_size 4k;
proxy_buffers 4 32k;
proxy_busy_buffers_size 64k;
proxy_temp_file_write_size 64k;
}
}