1.模块介绍
pycurl（http://pycurl.sourceforge.net）是一个用C语言写的libcurl Python实现，功能非常强大，支持的操作协议有FTP、HTTP、HTTPS、 TELNET等，可以理解成Linux下curl命令功能的Python封装，简单易 用。本节通过调用pycurl提供的方法，实现探测Web服务质量的情况， 比如响应的HTTP状态码、请求延时、HTTP头信息、下载速度等，利用 这些信息可以定位服务响应慢的具体环节，下面详细进行说明
2.模块常用方法说明
pycurl.Curl（）类实现创建一个libcurl包的Curl句柄对象，无参 数。更多关于libcurl包的介绍见http://curl.haxx.se/libcurl/c/libcurltutorial.html。
下面介绍Curl对象几个常用的方法。
·close（）方法，对应libcurl包中的curl_easy_cleanup方法，无参 数，实现关闭、回收Curl对象。
·perform（）方法，对应libcurl包中的curl_easy_perform方法，无参 数，实现Curl对象请求的提交。 ·
setopt（option，value）方法，对应libcurl包中的curl_easy_setopt方 法，参数option是通过libcurl的常量来指定的，参数value的值会依赖 option，可以是一个字符串、整型、长整型、文件对象、列表或函数 等。下面列举常用的常量列表：
c = pycurl.Curl（） #创建一个curl对象 c.setopt（pycurl.CONNECTTIMEOUT， 5） #连接的等待时间，设置为0则不等待 c.setopt（pycurl.TIMEOUT， 5） #请求超时时间 c.setopt（pycurl.NOPROGRESS， 0） #是否屏蔽下载进度条，非0则屏蔽 c.setopt（pycurl.MAXREDIRS， 5） #指定HTTP重定向的最大数 c.setopt（pycurl.FORBID_REUSE， 1） #完成交互后强制断开连接，不重用 c.setopt（pycurl.FRESH_CONNECT，1） #强制获取新的连接，即替代缓存中的连接 c.setopt（pycurl.DNS_CACHE_TIMEOUT，60） #设置保存DNS信息的时间，默认为120秒 c.setopt（pycurl.URL，"http：//www.baidu.com"） #指定请求的URL c.setopt（pycurl.USERAGENT，"Mozilla/5.2 （compatible； MSIE 6.0； Windows NT 5.1； SV1； .NET CLR 1.1.4322； .NET CLR 2.0.50324）"） #配置请求HTTP头 的User-Agent c.setopt（pycurl.HEADERFUNCTION， getheader） #将返回的HTTP HEADER定向到回调函 数getheader c.setopt（pycurl.WRITEFUNCTION， getbody） #将返回的内容定向到回调函数getbody c.setopt（pycurl.WRITEHEADER， fileobj） #将返回的HTTP HEADER定向到fileobj 文件对象 c.setopt（pycurl.WRITEDATA， fileobj） #将返回的HTML内容定向到fileobj文件对象
·getinfo（option）方法，对应libcurl包中的curl_easy_getinfo方法， 参数option是通过libcurl的常量来指定的。下面列举常用的常量列表：
c = pycurl.Curl（） #创建一个curl对象 c.getinfo（pycurl.HTTP_CODE） #返回的HTTP状态码 c.getinfo（pycurl.TOTAL_TIME） #传输结束所消耗的总时间 c.getinfo（pycurl.NAMELOOKUP_TIME） #DNS解析所消耗的时间 c.getinfo（pycurl.CONNECT_TIME） #建立连接所消耗的时间 c.getinfo（pycurl.PRETRANSFER_TIME） #从建立连接到准备传输所消耗的时间 c.getinfo（pycurl.STARTTRANSFER_TIME） #从建立连接到传输开始消耗的时间 c.getinfo（pycurl.REDIRECT_TIME） #重定向所消耗的时间 c.getinfo（pycurl.SIZE_UPLOAD） #上传数据包大小 c.getinfo（pycurl.SIZE_DOWNLOAD） #下载数据包大小 c.getinfo（pycurl.SPEED_DOWNLOAD） #平均下载速度 c.getinfo（pycurl.SPEED_UPLOAD） #平均上传速度 c.getinfo（pycurl.HEADER_SIZE） #HTTP头部大小
我们利用libcurl包提供的这些常量值来达到探测Web服务质量的目的。
3.实践：实现探测Web服务质量
HTTP服务是最流行的互联网应用之一，服务质量的好坏关系到用 户体验以及网站的运营服务水平，最常用的有两个标准，一为服务的可 用性，比如是否处于正常提供服务状态，而不是出现404页面未找到或 500页面错误等；二为服务的响应速度，比如静态类文件下载时间都控 制在毫秒级，动态CGI为秒级。本示例使用pycurl的setopt与getinfo方法 实现HTTP服务质量的探测，获取监控URL返回的HTTP状态码，HTTP状 态码采用pycurl.HTTP_CODE常量得到，以及从HTTP请求到完成下载期 间各环节的响应时间，通过pycurl.NAMELOOKUP_TIME、 pycurl.CONNECT_TIME、pycurl.PRETRANSFER_TIME、pycurl.R等常 量来实现。另外通过pycurl.WRITEHEADER、pycurl.WRITEDATA常量 得到目标URL的HTTP响应头部及页面内容。实现源码如下：
【/home/test/pycurl/simple1.py】
#_*_coding:utf-8_*_ #****************************************************************# # ScriptName: simple01.py # Author: BenjaminYang # Create Date: 2019-06-02 01:37 # Modify Author: BenjaminYang # Modify Date: 2019-06-02 01:37 # Function: #***************************************************************# #!/usr/bin/python import os,sys import time import pycurl URL="http://www.google.com.hk" #探测的目标URL c=pycurl.Curl() #创建一个Curl对象 c.setopt(pycurl.URL,URL) #定义请求的URL常量 c.setopt(pycurl.CONNECTTIMEOUT,5) #定义请求连接的等待时间 c.setopt(pycurl.TIMEOUT,5) #定义请求超时时间 c.setopt(pycurl.NOPROGRESS,1) #屏蔽下载进度条 c.setopt(pycurl.FORBID_REUSE,1) #完成交互后强制断开连接，不重用 c.setopt(pycurl.MAXREDIRS,1) #指定HTTP重定向的最大数为1 c.setopt(pycurl.DNS_CACHE_TIMEOUT,30) #设置保存DNS信息的时间为30秒 #创建一个文件对象，以”wb”方式打开，用来存储返回的http头部及页面内容 indexfile=open(os.path.dirname(os.path.realpath(__file__))+"/content.txt","wb") c.setopt(pycurl.WRITEDATA,indexfile) #将返回的HTML内容定向到indexfile文件对象 try: c.perform() #提交请求 except Exception,e: print "connection error:"+str(e) indexfile.close() c.close() sys.exit() NAMELOOKUP_TIME=c.getinfo(c.NAMELOOKUP_TIME) #获取DNS解析时间 CONNECT_TIME=c.getinfo(c.CONNECT_TIME) #获取建立连接时间 PRETRANSFER_TIME=c.getinfo(c.PRETRANSFER_TIME) #获取从建立连接到准备传 输所消耗的时间 STARTTRANSFER_TIME = c.getinfo(c.STARTTRANSFER_TIME) #获取从建立连接到传 输开始消耗的时间 TOTAL_TIME=c.getinfo(c.TOTAL_TIME) #获取传输的总时间 HTTP_CODE=c.getinfo(c.HTTP_CODE) #获取HTTP状态码 SIZE_DOWNLOAD=c.getinfo(c.SIZE_DOWNLOAD) #获取下载数据包大小 HEADER_SIZE=c.getinfo(c.HEADER_SIZE) #获取HTTP头部大小 SPEED_DOWNLOAD=c.getinfo(c.SPEED_DOWNLOAD) #获取平均下载速度 #打印输出相关数据 print "HTTP状态码：%s" %(HTTP_CODE) print "DNS解析时间：%.2f ms" %(NAMELOOKUP_TIME*1000) print "建立连接时间：%.2f ms" %(CONNECT_TIME*1000) print "准备传输时间：%.2f ms" %(PRETRANSFER_TIME*1000) print "传输开始时间：%.2f ms" %(STARTTRANSFER_TIME*1000) print "传输结束总时间：%.2f ms" %(TOTAL_TIME*1000) print "下载数据包大小：%d bytes/s" %(SIZE_DOWNLOAD) print "HTTP头部大小: %d byte" %(HEADER_SIZE) print "平均下载速度：%d bytes/s" %(SPEED_DOWNLOAD) #关闭文件及Curl对象 indexfile.close() c.close()
