正则表达式是通用的字符串表达框架,用一个正则表达好似可以表达多个符合同一个规律的字符串,它与一组字符串是等价关系。
正则表达式基本就是用于检索的。
记几个常用的正则吧:
| 或符号
? 前面这个重复0次或1次
+ 前面的重复1次到无限次
* 重复0次到无限次(.*中间任意填充)
{5} 前面的那个字符重复5次,大括号也是表示重复次数的
贪婪:
正则表达式默认去匹配符合条件的最长的那一串,如果要匹配最短的那串,在写的匹配重复项后面加上? ,也就是.*? .??这样的表达形式,在原本的重复项之后再加一项。
. 表示单个字符
^ 匹配开头,后面跟的一定在某字符串开头
$ 匹配结尾
\d 数字
\w 字母
Re是正则表达式库,python的标准库
这里记一个代码的编写顺序:
写函数的时候,首先把函数名那一栏写完,什么是输入基本心里有数。然后再是想好这个函数要完成的功能,最后一班要return个什么东西或者print一个什么东西,下面再写一个return 0,或者print" "。
然后把这个函数放在这,再写main函数,main函数写完了,最后把上面的函数填上去。
以及起函数名的时候,动词加名词组合的时候,动词首字母小写,名词首字母大写。
爬取淘宝信息的代码
import requests
import re
from bs4 import BeautifulSoup
#爬虫的三个函数,获取页面,解析页面,输出页面
#这里是要背下来的,也就三行不难背,获取,检查,编码(编码是获取之后为了解析内容用的)
def getHTMLText(url):
try:
r = requests.get(url,headers={"User-Agent": "Mozilla/5.0 "} )
r.raise_for_status()
r.encoding = r.apparent_encoding
return r.text
except:
return ""
#这里函数定义的时候涉及到一个ilt空列表要不要传进去的问题,还是传进去吧,因为要对这个做更改,省的return了
def parsePage(ilt,html): #整个函数的关键
try:
plt = re.findall(r'"view_price":"[\d.]*"', html) #中括号指的是中括号里面包裹的随机抽取一个
tlt = re.findall(r'"raw_title":".*?"', html) #以及re.findall(r" 正则 ",待查字符串)
#plt = re.findall(r'\"view_price\"\:\"[\d\.]*\"',html)
#tlt = re.findall(r'\"raw_title\"\:\".*?\"', html)
for i in range(len(plt)):
#eval(),这个括号里的不属于eval的语法,也就是eval函数的作用是返回括号里计算出来的字符串,至于括号里完全是正常语法
#甚至可以在上一行写字符串表达式,然后这一行 a= " " eval(a)
#其实eval起到的就是一个去掉""双引号的作用,不然打印出来的是带双引号的
price = eval(plt[i].split(':')[1])
title = eval(tlt[i].split(":")[1])
#这个append函数也是相当精髓,里面的数组括号
ilt.append([price,title])
except:
print("")
def printGoodsList(ilt):
tplt = "{:4}\t{:8}\t{:16}"
print(tplt.format("序号","价格","商品名称"))
count= 0
for g in ilt:
count = count +1
print(tplt.format(count,g[0],g[1]))
def main():
goods = "固态硬盘"
depth = 2
start_url = "https://s.taobao.com/search?q=" + goods #这里是起始的url,有一个关键词变量
infoList = []
for i in range(depth):
try:
url = start_url + "&s=" + str(44*i) #从起始的url到第二个url是更改页码
html = getHTMLText(url)
parsePage(infoList,html)
except:
continue
printGoodsList(infoList)
main()