Squid缓存代理

Others 2021-11-28 02:39:04 views: null

目录

一、Squid代理服务器

1、代理的工作机制

2、代理的类型

3、使用代理的好处

二、编译安装Squid

1、编译安装Squid

2、修改squid配置文件

3、Squid运行控制操作

4、创建 Squid 服务脚本

三、传统代理

1、squid服务器

2、web1配置

3、客户端配置（添加代理）​

4、测试结果

四、透明代理

1、Squid服务器配置

2、Squid修改防火墙和ip转发

3、web1 服务器修改配置

4、访问web1服务器

五、ACL访问控制

1、定义访问控制列表

方法一

方法二

六、Squid 日志分析

七、反向代理

1、工作机制

总结

一、Squid代理服务器

Squid主要提供缓存加速、应用层过滤控制的功能

1、代理的工作机制

代替客户机向网站请求数据，从而可以隐藏用户的真实IP地址
将获得的网页数据（静态 Web 元素）保存到缓存中并发送给客户机，以便下次请求相同的数据时快速响应

2、代理的类型

传统代理：适用于Internet，需在客户机指定代理服务器的地址和端口

透明代理：客户机不需指定代理服务器的地址和端口，而是通过默认路由、防火墙策略将Web访问重定向给代理服务器处理

反向代理：如果 Squid 反向代理服务器中缓存了该请求的资源，则将该请求的资源直接返回给客户端；否则反向代理服务器将向后台的 WEB 服务器请求资源，然后将请求的应答返回给客户端，同时也将该应答缓存（静态）在本地，供下一个请求者使用

3、使用代理的好处

提高Web访问速度
隐藏客户机的真实IP地址

二、编译安装Squid

1、编译安装Squid

systemctl stop firewalld
systemctl disable firewalld
setenforce 0

yum -y install gcc gcc-c++ make
cd /opt
tar zxvf squid-3.5.28.tar.gz 
cd /opt/squid-3.5.28
./configure --prefix=/usr/local/squid \     #指定安装目录路径
--sysconfdir=/etc \                         #指定配置文件路径
--enable-arp-acl \                          #MAC地址管控，防止客户端使用IP欺骗
--enable-linux-netfilter \                  #使用内核过滤
--enable-linux-tproxy \                     #支持透明模式
--enable-async-io=100 \                     #异步IO，提升存储性能
--enable-err-language="Simplify_ Chinese" \ #错误信息的显示语言
--enable-underscore \                       #允许URL中有下划线
--disable-poll \                            #关闭默认使用poll模式
--enable-gnuregex                           #使用GNU正则表达式


./configure --prefix=/usr/local/squid \
--sysconfdir=/etc \
--enable-arp-acl \
--enable-linux-netfilter \
--enable-linux-tproxy \
--enable-async-io=100 \
--enable-err-language="Simplify_Chinese" \
--enable-underscore \
--disable-poll \
--enable-epoll \
--enable-gnurege

make && make install
ln -s /usr/local/squid/sbin/* /usr/local/sbin
useradd -M -s /sbin/nologin squid
chown -R squid:squid /usr/local/squid/var/       #此目录用于存放缓存文件

2、修改squid配置文件

vim /etc/squid.conf
......
-----56行--插入------
http_access allow all    #放在http_access deny all 之前，允许任意客户机使用代理服务，控制规则自上而下匹配
http_access deny all
http_port 3128           #用来指定代理服务监听的地址和端口(默认的端口号为3128)
-----61行--插入------
cache_effective_user squid     #添加，指定程序用户，用来设置初始化、运行时缓存的账号，否则启动不成功
cache_effective_group squid    #添加，指定账号基本组
coredump_dir /usr/local/squid/var/cache/squid   #指定缓存文件目录

3、Squid运行控制操作

#检查配置文件语法是否正确
squid -k parse
squid –k rec                      	##重新加载配置文件

#启动Squid， 第一次启动Squid服务时，会自动初始化缓存目录
squid -zX   #-z选项用来初始化缓存目录
squid      #启动squid 服务

netstat -anpt | grep 3128

4、创建 Squid 服务脚本

vim /etc/init.d/squid
#!/bin/bash
#chkconfig: 2345 90 25
#2345是默认自启动级别，如是 - 代表任何级别都不自启动; 90是启动优先级，25是停止优先级，优先级范围是0一100，数字越大，优先级越低。

PID="/usr/local/squid/var/run/squid.pid"
CONF="/etc/squid.conf"
CMD="/usr/local/squid/sbin/squid"

case "$1" in
   start)
     netstat -natp | grep squid &> /dev/null
     if [ $? -eq 0 ]
     then
       echo "squid is running"
       else
       echo "正在启动 squid..."
       $CMD
     fi
   ;;
   stop)
     $CMD -k kill &> /dev/null
     rm -rf $PID &> /dev/null
   ;;
   status)
     [ -f $PID ] &> /dev/null
        if [ $? -eq 0 ]
          then
            netstat -natp | grep squid
          else
            echo "squid is not running"
        fi
   ;;
   restart)
      $0 stop &> /dev/null
      echo "正在关闭 squid..."
      $0 start &> /dev/null
      echo "正在启动 squid..."
   ;;
   reload)
      $CMD -k reconfigure
   ;;
   check)
      $CMD -k parse
   ;;
   *)
      echo "用法：$0{start|stop|status|reload|check|restart}"
   ;;
esac


chmod +x /etc/init.d/squid
chkconfig --add squid
chkconfig --level 35 squid on
​
vim /etc/init.d/squid
#!/bin/bash
#chkconfig: 2345 90 25
#2345是默认自启动级别，如是 - 代表任何级别都不自启动; 90是启动优先级，25是停止优先级，优先级范围是0一100，数字越大，优先级越低。

PID="/usr/local/squid/var/run/squid.pid"
CONF="/etc/squid.conf"
CMD="/usr/local/squid/sbin/squid"

case "$1" in
   start)
     netstat -natp | grep squid &> /dev/null
     if [ $? -eq 0 ]
     then
       echo "squid is running"
       else
       echo "正在启动 squid..."
       $CMD
     fi
   ;;
   stop)
     $CMD -k kill &> /dev/null
     rm -rf $PID &> /dev/null
   ;;
   status)
     [ -f $PID ] &> /dev/null
        if [ $? -eq 0 ]
          then
            netstat -natp | grep squid
          else
            echo "squid is not running"
        fi
   ;;
   restart)
      $0 stop &> /dev/null
      echo "正在关闭 squid..."
      $0 start &> /dev/null
      echo "正在启动 squid..."
   ;;
   reload)
      $CMD -k reconfigure
   ;;
   check)
      $CMD -k parse
   ;;
   *)
      echo "用法：$0{start|stop|status|reload|check|restart}"
   ;;
esac


chmod +x /etc/init.d/squid
chkconfig --add squid
chkconfig --level 35 squid on

​​
vim /etc/init.d/squid
#!/bin/bash
#chkconfig: 2345 90 25
#2345是默认自启动级别，如是 - 代表任何级别都不自启动; 90是启动优先级，25是停止优先级，优先级范围是0一100，数字越大，优先级越低。

PID="/usr/local/squid/var/run/squid.pid"
CONF="/etc/squid.conf"
CMD="/usr/local/squid/sbin/squid"

case "$1" in
   start)
     netstat -natp | grep squid &> /dev/null
     if [ $? -eq 0 ]
     then
       echo "squid is running"
       else
       echo "正在启动 squid..."
       $CMD
     fi
   ;;
   stop)
     $CMD -k kill &> /dev/null
     rm -rf $PID &> /dev/null
   ;;
   status)
     [ -f $PID ] &> /dev/null
        if [ $? -eq 0 ]
          then
            netstat -natp | grep squid
          else
            echo "squid is not running"
        fi
   ;;
   restart)
      $0 stop &> /dev/null
      echo "正在关闭 squid..."
      $0 start &> /dev/null
      echo "正在启动 squid..."
   ;;
   reload)
      $CMD -k reconfigure
   ;;
   check)
      $CMD -k parse
   ;;
   *)
      echo "用法：$0{start|stop|status|reload|check|restart}"
   ;;
esac


chmod +x /etc/init.d/squid
chkconfig --add squid
chkconfig squid on
​service squid restart   ##测试正常

三、传统代理

1、squid服务器

vim /etc/squid.conf 
......
http_access allow all
http_access deny all
http_port 3128
cache_effective_user squid
cache_effective_group squid

#63行插入
cache_mem 64 MB				
#指定缓存功能所使用的内存空间大小，便于保持访问较频繁的WEB对象，容量最好为4的倍数，单位为MB，建议设为物理内存的1/4
reply_body_max_size 10 MB			
#允许用户下载的最大文件大小，以字节为单位，当下载超过指定大小的Web对象时，浏览器的报错页面中会出现“请求或访问太大”的提示默认设置0表示不进行限制
maximum_object_size 4096 KB			
#允许保存到缓存空间的最大对象大小，以KB为单位，超过大小限制的文件将不被缓存，而是直接转发给用户

service squid restart
systemctl restart squid

#修改防火墙规则
iptables -F
iptables -I INPUT -p tcp --dport 3128 -j ACCEPT

2、web1配置

systemctl stop firewalld.service
setenforce 0
yum -y install httpd
systemctl start httpd
netstat -natp | grep 80

3、客户端配置（添加代理）

4、测试结果

#web1上动态查看访问日志，观察来访IP
tail -f /var/log/httpd/access_log

客户机访问192.168.255.150

四、透明代理

1、Squid服务器配置

cd /etc/sysconfig/network-scripts/
cp ifcfg-ens33 ifcfg-ens37
vim ifcfg-ens37
systemctl restart network
yum install iptables* -y


#60行修改添加提供内网服务的IP地址，和支持透明代理选项 transparent
vim /etc/squid.conf
......
http_access allow all
http_access deny all

http_port 192.168.174.1:3128 transparent
systemctl restart squid

2、Squid修改防火墙和ip转发

echo 'net.ipv4.ip_forward = 1' >> /etc/sysctl.conf
sysctl -p

iptables -F
iptables -t nat -F
iptables -t nat -I PREROUTING -i ens37 -s 192.168.174.0/24 -p tcp --dport 80 -j REDIRECT --to 3128	
iptables -t nat -I PREROUTING -i ens37 -s 192.168.174.0/24 -p tcp --dport 443 -j REDIRECT --to 3128	
iptables -I INPUT -p tcp --dport 3128 -j ACCEPT

3、web1 服务器修改配置

配置web1网关指向192.168.255.180
iptables -F

4、访问web1服务器

web1上动态查看访问日志，观察来访IP
tail -f /var/log/httpd/access_log

五、ACL访问控制

在配置文件squid.conf 中，ACL访问控制通过以下两个步骤来实现:
① 使用acl 配置项定义需要控制的条件
② 通过http_access配置项对已定义的列表做“允许”或“拒绝”访问的控制

1、定义访问控制列表

acl 列表名称  列表类型  列表内容 
列表名称：名称自定义，相当于给acl起个名字（有点类似于shell脚本变量名）
列表类型：必须使用squid预定义的值，对应不同类别的控制条件
列表内容：是要控制的具体对象，不同类型的列表所对应的内容也不一样，可以有多个值（以空格为分隔，为“或”的关系）

方法一

vim /etc/squid.conf
.......
acl localhost src 192.168.174.142/24            #源地址为192.168.174.142
acl MYLAN src 192.168.255.0/24    				#客户机网段
acl destinationhost dst 192. 168.255.150/24     #目标地址为192.168.255.150 
acl MC20 maxconn 20                             #最大并发连接20
acl PORT port 21                                #目标端口21
acl DMBLOCK dstdomain .qq.com                   #目标域，匹配域内所有站点
acl BURL url_regex -i ^rtsp:// ^emule://       	#以rtsp://. emule://开头的URL，-i表示忽略大小写
acl PURL urlpath_regex -i \.mp3$ \.mp4$ \.rmvb$   #以 .mp3、.mp4、.rmvb结尾的URL路径
acl WORKTIME time MTWHF 08:30-17:30             #时间为周一-至周五8:30~17:30， "MTWHF"为每个星期的英文首字母


http_access deny host
service squid reload

方法二

#启动对象列表管理
mkdir /etc/squid
vim /etc/squid/dest.list
192.168.255.180      #Squid服务器IP
192.168.255.0/24     #任意需要的网段

vim /etc/squid.conf
......
acl destinationhost dst "/etc/squid/dest.list"    #调用指定文件中的列表内容
http_access deny (或allow) destinationhost      #注意，如果是拒绝列表，需要放在http_access allow all 前面

systemctl restart squid

六、Squid 日志分析

sarg（Squid Analysis Report Generator），是一款squid日志分析工具，采用HTML格式，详细列出每一位用户访问Internet的站点信息、时间占用信息、排名、连接次数、访问量等
 

#安装图像处理软件包
yum install -y gd gd-devel pcre-devel 

mkdir /usr/local/sarg

#将zxvf sarg-2.3.7.tar.gz压缩包上传到/opt目录下
tar zxvf sarg-2.3.7.tar.gz -C /opt/

cd /opt/sarg-2.3.7
./configure --prefix=/usr/local/sarg \
--sysconfdir=/etc/sarg \       #配置文件目录，默认是/usr/loca/etc
--enable-extraprotection       #额外安全防护

./configure --prefix=/usr/local/sarg --sysconfdir=/etc/sarg --enable-extraprotection

make && make install

vim /etc/sarg/sarg.conf
--7行--取消注释
access_log /usr/local/squid/var/logs/access.log  #指定访问日志文件
--25行--取消注释
title "Squid User Access Reports"     #网页标题
--120行--取消注释，修改
output_dir /var/www/html/sarg      #报告输出目录
--178行--取消注释
user_ip no           #使用用户名显示
--184行--取消注释，修改
topuser_sort_field connect reverse     #top排序中，指定连接次数采用降序排列，升序是normal
--190行--取消注释，修改
user_sort_field connect reverse      #对于用户访问记录，连接次数按降序排序
--206行--取消注释，修改
exclude_hosts /usr/local/sarg/noreport    #指定不计入排序的站点列表的文件
--257行--取消注释
overwrite_report no         #同名同日期的日志是否覆盖
--289行--取消注释，修改
mail_utility mailq.postfix       #发送邮件报告命令
--434行--取消注释，修改
charset UTF-8          #指定字符集UTF-8
--518行--取消注释
weekdays 0-6          #top排行的星期周期
--525行--取消注释
hours 0-23           #top排行的时间周期
--633行--取消注释
www_document_root /var/www/html      #指定网页根目录

#添加不计入站点文件，添加的域名将不被显示在排序中
touch /usr/local/sarg/noreport

ln -s /usr/local/sarg/bin/sarg /usr/local/bin/

sarg --help   #获取帮助 

#运行
sarg     #启动一次记录

#验证
yum install httpd -y
systemctl start httpd

iptables -I INPUT -p tcp --dport 80 -j ACCEPT 

在squid服务器上使用浏览器访问 http://192.168.255.180/sarg，查看sarg报告网页。

#添加计划任务，执行每天生成报告
vim /usr/local/sarg/report.sh
#/bin/bash
#Get current date
TODAY=$(date +%d/%m/%Y)
#Get one week ago today
YESTERDAY=$(date -d "1 day ago" +%d/%m/%Y)
/usr/local/sarg/bin/sarg -l /usr/local/squid/var/logs/access.log -o /var/www/html/sarg -z -d $YESTERDAY-$TODAY &> /dev/null
exit 0

chmod +x /usr/local/sarg/report.sh 

crontab -e
0 0 * * * /usr/local/sarg/report.sh


手动方式
#直接访问squid http://192.168.255.180/sarg周期性订划任务执行每天生成报告crontab-o输出到报告目录中
sarg -l /usr/local/squid/var/logs/access.log -o /var/www/html/sarg -z -d $(date -d "1 day ago" +%d/%m/%Y)-$(date +%d/%m/%Y)
##再次执行，产生新的报告，页面可视多了一天的日志报告记录
http://192.168.255.180/sarg/index.html

sarg -l /usr/local/squid/var/logs/access.log -o /var/www/html/sarg -z -d $(date -d "1 day ago" +%d/%m/%Y)-$(date +%d/%m/%Y)

七、反向代理

如果Squid反向代理服务器中缓存了该请求的资源，则将该请求的资源直接返回给客户端;否则反向代理服务器将向后台的Web服务器请求资源，然后将请求的应答返回给客户端，同时也将该应答缓存在本地，供下一个请求者使用

1、工作机制

缓存网页对象，减少重复请求
将互联网请求轮询或按权重分配到内网web服务器
代理用户请求，避免用户直接访问Web服务器，提高安全

开启防火墙、本地关闭HTTPD
systemctl start firewalld
systemctl stop httpd

iptables -F
iptables -t nat -F

iptables -I INPUT -p tcp --dport 80 -j ACCEPT 

vim /etc/squid.conf
------ 60行--修改，插入-------
http_port 192.168.255.180:80 accel vhost vport
cache_peer 192.168.255.150 parent 80 0 no-query originserver round-robin max_conn=30 weight=1 name=web1
cache_peer 192.168.255.200 parent 80 0 no-query originserver round-robin max_conn=30 weight=1 name=web2
cache_peer_domain web1 web2 www.ly.com
#表示对www.ly.com的请求，squid向192.168.255.150和192.168.255.200的80端口发出请求

-------------------------------------------------------------------------------------
http_port 80 accel vhost vport
#squid从一个缓存变成了一个Web服务器反向代理加速模式，这个时候squid在80端口监听请求，同时和webserver的请求端口(vhost vport)绑定，这个时候请求到了squid，squid是不用转发请求的，而是直接要么从缓存中拿数据要么向绑定的端口直接请求数据。
accel :反向代理加速模式
vhost:支持域名或主机名来表示代理节点
vport :支持IP和端口来表示代理节点

parent :代表为父节点，上下关系，非平级关系
80:代理内部web服务器的80端口
0 :没有使用icp，表示就一台squid服务器
no-query :不做查询操作，直接获取数据
originserver :指定是源服务器
round-robin :指定squid 通过轮询方式将请求分发到其中一台父节点
max_conn :指定最大连接数
weight :指定 权重
name :设置别名
----------------------------------------------------------------------------------------

systemctl stop httpd
service squid reload

#后端web2节点服务器设置
yum install -y httpd
systemctl start httpd

#节点1(web1):
echo "this is test01" >> /var/www/html/index.html
#节点2(web2):
echo "this is test02" >> /var/www/html/index.html

#客户机的域名映射配置
/etc/hosts 文件
192.168.255.180 www.ly.com

#客户机的代理配置
打开浏览器，工具-->Internet选项-->连接-->局域网设置-->开启代理服务器(地址: Squid服 务器IP地址，端口: 80)

浏览器访问 http://www.ly.com

总结

squid 定位是缓存加速、缓存从后端的web服务器获取到的、加速是为了客户端访问的

squid 会有三种模式：
1、传统代理：需要客户端指向squid 代理服务器，客户端能感知到squid 代理服务器的存在
2、透明代理(常用)：客户端不需要配置，只要直接访问即可，服务端，借助了防火墙规则及静态路由的方式，完成透明代理
3、反向代理：做为类似与Nginx服务器的反向代理功能，但自身不需要一个首页，基于IP:端口，权重的方式完成反向代理

对于Squid 自身的管理/功能
ACL：主要做的是http_access（基于http协议，access访问）的允许和拒绝管理
sarg：日志分析功能，可以以天的方式指定将access_log中的内容输出到一个web页面中（借助了httpd）展示出来。
 

Guess you like

Origin blog.csdn.net/y1035793317/article/details/121125817
Recommended
Ranking
SpringBoot-integrate redis
[Sword pointing to offer] Interview question 03: Repeated numbers in an array
Arrangement "Offer Penalty for prove safety" string
Browser prevent the automatic generation of fill and Echo have been saved account solutions
Work hard and never slacken——2022 Yinmai Information Year-End Summary
Install jdk7 on Linux system
App common dependency management tools
EduCoder-Web程序设计基础-html5— 给表单组件添加说明-第1关：label标签相关概念
Machine learning - clustering - density clustering algorithm notes
Ant's large model is exposed, AI+ finance enters the "big model" era
Daily
More
2024-04-30(36)
2024-04-29(5)
2024-04-28(12)
2024-04-27(29)
2024-04-26(22)
2024-04-25(32)
2024-04-24(30)
2024-04-23(30)
2024-04-22(5)
2024-04-21(0)

Code World

© 2018 codetd.com