爬虫系列-正则表达式

我们常常总是说在处理字符串一类数据的时候，总会提到一个正则表达式，但每次别人提到是又爱又恨的感受，它虽然是一个万能的办法，但是它相比其他几个，麻烦很多，一般都不会用它，但它一般都是我们最后的杀手锏，我们在写爬虫的时候也少不它。

工具介绍

首先提供一个在线测试正则表达式的网站，点开这个链接你就可以进去看，然后最近设计一个匹配的文本，然后就可以得出合理的结果。比如：

这个网站对于刚学习的小白是很有用的。我们可以直接点右边的，然后它就会自动提供一个正则表达式，可以与你写的正则表达式进行对比。

常用匹配规则

\w    匹配字母、数字及下划线
\W    匹配不是字母、数字及下划线的字符
\s    匹配任意空白字符，等价于[\t\n\r\f]
\S    匹配任意非空字符
\d    匹配任意数字，等价于[0-9]
\D    匹配任意非数字的字符
\A    匹配字符串开头
\Z    匹配字符串结尾，如果存在换行，只匹配到换行前的结束字符串
\z    匹配字符串结尾，如果存在换行，同时还会匹配换行符
\G    匹配最后匹配完成的位置
\n    匹配一个换行符
\t    匹配一个制表符
^     匹配一行字符串的开头
$     匹配一行字符串的结尾
.     匹配任意字符，除了换行符，当re.DOTALL标记被指定时，则可以匹配包括换行符的任意字符
[...] 用来表示一组字符，单独列出，比如[amk]匹配a、m或k
[^...]不在[]中的字符，比如[^abc]匹配除了a、b、c之外的字符
*     匹配0个或多个表达式
+     匹配1个或多个表达式
?     匹配0个或1个前面的正则表达式定义的片段，非贪婪方式
{n}   精确匹配n个前面的表达式
{n, m}匹配n到m次由前面正则表达式定义的片段，贪婪方式
a|b   匹配a或b
( )   匹配括号内的表达式，也表示一个组

这些匹配规则主要分为五大类：
1.普通字符
普通字符包括没有显式指定为元字符的所有可打印和不可打印字符。这包括所有大写和小写字母、所有数字、所有标点符号和一些其他符号。
2.非打印字符
非打印字符也可以是正则表达式的组成部分。
3.特殊字符
所谓特殊字符，就是一些有特殊含义的字符，如上面说的 runoo*b 中的 ，简单的说就是表示任何字符串的意思。如果要查找字符串中的 * 符号，则需要对 * 进行转义，即在其前加一个 : runo*ob 匹配 runoob。许多元字符要求在试图匹配它们时特别对待。若要匹配这些特殊字符，必须首先使字符"转义"，即，将反斜杠字符\ 放在它们前面。
4.限定符
限定符用来指定正则表达式的一个给定组件必须要出现多少次才能满足匹配。有 * 或 + 或 ? 或 {n} 或 {n,} 或 {n,m} 共6种。
5.定位符
定位符使您能够将正则表达式固定到行首或行尾。它们还使您能够创建这样的正则表达式，这些正则表达式出现在一个单词内、在一个单词的开头或者一个单词的结尾。
定位符用来描述字符串或单词的边界，^ 和 $ 分别指字符串的开始与结束，\b 描述单词的前或后边界，\B 表示非单词边界。
还有其他几种一般不是怎么常用，具体每一类的介绍可以去菜鸟教程看一下。
下面我们来介绍一下具体的的匹配方法：

1.match()

这里首先介绍第一个常用的匹配方法——match()，向它传入要匹配的字符串以及正则表达式，就可以检测这个正则表达式是否匹配字符串。
match()方法会尝试从字符串的起始位置匹配正则表达式，如果匹配，就返回匹配成功的结果；如果不匹配，就返回None。示例如下：

import re#调用正则表达式这个模块
content = 'Hello 1234567 World_This1'
print(len(content))
result = re.match('^Hello\s\d{7}\s\w{5}', content)#在原字符串中匹配字符
print(result)#匹配成功的话就返回匹配的结果，否则返回None
print(result.group())#输出成功匹配的内容
print(result.span())#输出匹配的范围

运行结果是：

25
<_sre.SRE_Match object; span=(0, 19), match='Hello 1234567 World'>
Hello 1234567 World
(0, 19)

我们可以看到成功匹配了可以看到结果是SRE_Match对象，这证明成功匹配。该对象有两个方法：group()方法可以输出匹配到的内容，结果是Hello 1234567 World，这恰好是正则表达式规则所匹配的内容；span()方法可以输出匹配的范围，结果是(0, 19)，这就是匹配到的结果字符串在原字符串中的位置范围。
下面我们来分析一下刚才写的正则表达式：

^Hello\s\d{7}\s\w{5}

其中^是匹配字符串的开头，也就是以Hello开头；然后\s匹配空白字符，用来匹配目标字符串的空格；\d匹配数字，\d{7}表示匹配七个数字，也可以用七个\d来表示，我们只是匹配了一部分，我们可以加一点匹配全部：

^Hello\s\d{7}\s\w{11}

上面这个例子我们实现了对整个字符串的匹配，但有的时候我们往往需要匹配不是整个字符串，而是其中的需要的某个信息，比如从一段文字中提取电话号码等内容。我们称为匹配目标。

1.匹配目标

这里可以使用()括号将想提取的子字符串括起来。()实际上标记了一个子表达式的开始和结束位置，被标记的每个子表达式会依次对应每一个分组，调用group()方法传入分组的索引即可获取提取的结果。
这里我举一个例子，给一段文本，我们从其中提取手机号：

import re#调用正则表达式这个模块
content = '李华的手机号是18971737678'
result = re.match('^李华的手机号是(\d+)', content)#在原字符串中匹配字符
print(result)#匹配成功的话就返回匹配的结果，否则返回None
print(result.group(1))#输出成功匹配的内容
print(result.span())#输出匹配的范围

运行结果是：

<_sre.SRE_Match object; span=(0, 18), match='李华的手机号是18971737678'>
18971737678
(0, 18)

这里我们想把手机号提取出来，可以用括号将数字部分的正则表达式括起来，然后调用group(1)获取匹配的结果。这里用的是group(1)，它与group()有所不同，后者会输出完整的匹配结果，而前者会输出第一个被()包围的匹配结果。假如正则表达式后面还有()包括的内容，那么可以依次用group(2)、group(3)等来获取。

2.通用匹配

刚才我们写的第一个实例正则表达式其实比较复杂，出现空白字符我们就写\s匹配，出现数字我们就用\d匹配，这样的工作量非常大。其实完全没必要这么做，因为还有一个万能匹配可以用，那就是.（点星）。其中.（点）可以匹配任意字符（除换行符），（星）代表匹配前面的字符无限次，所以它们组合在一起就可以匹配任意字符了。有了它，我们就不用挨个字符地匹配了。

import re
content = 'Hello 123 4567 World_This is a Regex Demo'
result = re.match('^Hello.*Demo$', content)
print(result.group())
print(result.span())

运行结果是：

Hello 123 4567 World_This is a Regex Demo
(0, 41)

这里我们将.*代替中间那部分，最后加一个结尾字符串就行了。可以看到，group()方法输出了匹配的全部字符串，也就是说我们写的正则表达式匹配到了目标字符串的全部内容；span()方法输出(0, 41)，这是整个字符串的长度。我们以后可以用这样的方法来简化。

3. 贪婪与非贪婪

使用上面的通用匹配.* 时，但可能匹配会出现问题，比如我们想偷个懒，除了中间的数值,我们希望数字前后都用 .*来省略，这样来简化。

import re
content = 'Hello 1234567 World_This is a Regex Demo'
result = re.match('^He.*(\d+).*Demo$', content)
print(result.group(1))
print(result.span())

运行的结果是：

7
(0, 41)

这样我们发现只得到一个数字7？这个就涉及到贪婪与非贪婪的问题了。
在贪婪匹配下，.* 会匹配尽可能多的字符。正则表达式中.*后面是\d+，也就是至少一个数字，并没有指定具体多少个数字，因此，.*就尽可能匹配多的字符，这里就把123456匹配了，给\d+留下一个可满足条件的数字7，最后得到的内容就只有数字7了。
但这样会给我们带来了很多的问题，比如说匹配内容会少了，就像上面一样，这时候我们就需要用到非贪婪匹配了。非贪婪的写法是 . *?（这里其实是连在一起的，考虑到markdown语法缘故），下面我们用非贪婪的写法试试：

import re
content = 'Hello 1234567 World_This is a Regex Demo'
result = re.match('^He.*?(\d+).*Demo$', content)
print(result.group(1))
print(result.span())

运行结果是：

1234567
(0, 40)

我们发现这样就可以成功获取到1234567这几个数字，婪匹配是尽可能匹配多的字符，非贪婪匹配就是尽可能匹配少的字符。当. ?匹配到Hello后面的空白字符时，再往后的字符就是数字了，而\d+恰好可以匹配，那么这里.?就不再进行匹配，交给\d+去匹配后面的数字。所以这样. *?匹配了尽可能少的字符，\d+的结果就是1234567了。
所以我们在做匹配的时候，字符串中间尽量使用非贪婪匹配，也可以用. *?来表示代替. *,以免出现匹配结果缺失的情况。
但这里需要注意，如果匹配的结果在字符串结尾，. *?就可能匹配尽可能少的字符。

import re
content = 'https://www.baidu.com/newspaper'
result1 = re.match('http.*?com/(.*?)', content)
result2 = re.match('http.*?com/(.*)', content)
print('result1', result1.group(1))
print('result2', result2.group(1))

运行结果是：

result1 
result2 newspaper

可以观察到，.*?没有匹配到任何结果，而.*则尽量匹配多的内容，成功得到了匹配结果。

4.修饰符

正则表达式可以包含一些可选标志修饰符来控制匹配的模式。修饰符被指定为一个可选的标志。我们用实例来看一下：

import re

content = '''Hello 1234567 World_This
is a Regex Demo
'''
result = re.match('^He.*?(\d+).*?Demo$', content)
print(result.group(1))

结果报错：

AttributeError                            Traceback (most recent call last)
<ipython-input-14-8aafafca5161> in <module>()
      5 '''
      6 result = re.match('^He.*?(\d+).*?Demo$', content)
----> 7 print(result.group(1))

AttributeError: 'NoneType' object has no attribute 'group'

这个是因为这是因为.匹配的是除换行符之外的任意字符，当遇到换行符时，.*?就不能匹配了，所以导致匹配失败。这里只需加一个修饰符re.S，即可修正这个错误：

result = re.match('^He.*?(\d+).*?Demo$', content, re.S)
print(result.group(1))

这样我们我就又能匹配到相应的数字

1234567

re.S这个修饰符的作用是使.匹配包括换行符在内的所有字符。这个re.S在网页匹配中经常用到。因为HTML节点经常会有换行，加上它，就可以匹配节点与节点之间的换行了。
还有一些常用的修饰符：

re.I   使匹配对大小写不敏感
re.L   做本地化识别（locale-aware）匹配
re.M   多行匹配，影响^和$
re.S   使.匹配包括换行在内的所有字符
re.U   根据Unicode字符集解析字符。这个标志影响\w、\W、 \b和\B
re.X   该标志通过给予你更灵活的格式以便你将正则表达式写得更易于理解

在网页中匹配常用re.S和re.I

5.转义匹配

我们知道正则表达式定义了许多匹配模式，如.匹配除换行符以外的任意字符，但是如果目标字符串里面就包含.，我们需要用到转义字符了，示例如下：

import re
content = '(百度)www.baidu.com'
result = re.match('\(百度\)www\.baidu\.com', content)
print(result)

运行结果如下：

<_sre.SRE_Match object; span=(0, 17), match='(百度)www.baidu.com'>

可以看到我们用到了原字符串，这些后面用的也比较多。

search()

match()方法是从字符串的开头开始匹配的，一旦开头不匹配，那么整个匹配就失败了。我们看下面的例子：

import re
content = '(百度22)www.baidu.com'
result = re.match('\(22\)www\.baidu\.com', content)
print(result)

运行结果是：

None

match()方法在使用时需要考虑到开头的内容，这在做匹配时并不方便。它更适合用来检测某个字符串是否符合某个正则表达式的规则。

这里就有另外一个方法search()，它在匹配时会扫描整个字符串，然后返回第一个成功匹配的结果。也就是说，正则表达式可以是字符串的一部分，在匹配时，search()方法会依次扫描字符串，直到找到第一个符合规则的字符串，然后返回匹配内容，如果搜索完了还没有找到，就返回None。

import re
content = '(百度22)www.baidu.com'
result = re.search('22\)www\.baidu\.com', content)
print(result)

运行结果为：

<_sre.SRE_Match object; span=(3, 19), match='22)www.baidu.com'>

match()在匹配的时候要考虑开头的内容，这样匹配很不方便他适合检测某个字符串是否符合某个正则表达式的规则。
这里就有另外一个方法search()，它在匹配时会扫描整个字符串，然后返回第一个成功匹配的结果。也就是说，正则表达式可以是字符串的一部分，在匹配时，search()方法会依次扫描字符串，直到找到第一个符合规则的字符串，然后返回匹配内容，如果搜索完了还没有找到，就返回None。
为了我们更加熟悉它的用法，我们还可以看几个实例来研究它的用法。
我参考别人的一段待匹配的HTML文本，接下来写几个正则表达式实例来实现相应信息的提取：

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君"><i class="fa fa-user"></i>但愿人长久</a>
        </li>
    </ul>
</div>'''

这是一个网页的部分HTML文本，ul节点里有许多li节点，其中li节点中有的包含a节点，有的不包含a节点，a节点还有一些相应的属性——超链接和歌手名。
我们希望提取class为active的li节点内部的超链接包含的歌手名和歌名，此时需要提取第三个li节点下a节点的singer属性和文本。
此时正则表达式可以以li开头，然后寻找一个标志符active，中间的部分可以用.?来匹配。接下来，要提取singer这个属性值，所以还需要写入singer="(.?)"，这里需要提取的部分用小括号括起来，以便用group()方法提取出来，它的两侧边界是双引号。然后还需要匹配a节点的文本，其中它的左边界是>，右边界是。然后目标内容依然用(.*?)来匹配，所以最后的正则表达式就变成了：

<li.*?active.*?singer="(.*?)">(.*?)</a>

我们再调用search()方法，在整个html找到符合正则表达式的第一个内容返回，然后这个文本中换行，我们需要设置修饰符为re.S模式。下面我们具体看看怎么写：

result = re.search('<li.*?active.*?singer="(.*?)">(.*?)</a>', html, re.S)
if result:
    print(result.group(1), result.group(2))

运行结果为：

齐秦 往事随风

如果正则表达式不加active（也就是匹配不带class为active的节点内容），那会怎样呢？我们将正则表达式中的active去掉，代码改写如下：

result = re.search('<li.*?singer="(.*?)">(.*?)</a>', html, re.S)
if result:
    print(result.group(1), result.group(2))

运行结果为：

任贤齐 沧海一声笑

由于search()方法会返回第一个符合条件的匹配目标，所以结果发生改变。去掉active匹配到节点变成第二个，后面后面的就不会匹配。在上面匹配我们都用道re.S，下面我们不加这个看看会怎么样：

result = re.search('<li.*?singer="(.*?)">(.*?)</a>', html)
if result:
    print(result.group(1), result.group(2))

匹配结果：

beyond 光辉岁月

可以看到，结果变成了第四个li节点的内容。这是因为第二个和第三个li节点都包含了换行符，去掉re.S之后，.*?已经不能匹配换行符，所以正则表达式不会匹配到第二个和第三个li节点，而第四个li节点中不包含换行符，所以成功匹配。

由于绝大部分的HTML文本都包含了换行符，所以尽量都需要加上re.S修饰符，以免出现匹配不到的问题。

findall()

前面的search()用法可以帮我们匹配正则表达式第一个内容，但如果想匹配符合正则表达式的所有内容，那么该怎么办呢？这个时候我们需要用到findall()方法了。如果匹配成功，则会会返回列表类型的数据，所以我们需要来遍历获取每组内容。还是上面的HTML文本，我们匹配符合要求的歌曲链接，歌手，以及歌名

import re
result = re.findall('<li.*?href="(.*?)" singer="(.*?)">(.*?)</a>', html, re.S)
print(result)

返回的结果是：

[('/2.mp3', '任贤齐', '沧海一声笑'), ('/3.mp3', '齐秦', '往事随风'), ('/4.mp3', 'beyond', '光辉岁月'), ('/5.mp3', '陈慧琳', '记事本'), ('/6.mp3', '邓丽君', '但愿人长久')]

也可以这样写

results = re.findall('<li.*?href="(.*?)".*?singer="(.*?)">(.*?)</a>', html, re.S)
print(results)
print(type(results))
for result in results:
    print(result)
    print(result[0], result[1], result[2])

这样我们可以看看每一块各自的信息

[('/2.mp3', '任贤齐', '沧海一声笑'), ('/3.mp3', '齐秦', '往事随风'), ('/4.mp3', 'beyond', '光辉岁月'), ('/5.mp3', '陈慧琳', '记事本'), ('/6.mp3', '邓丽君', '但愿人长久')]
<class 'list'>
('/2.mp3', '任贤齐', '沧海一声笑')
/2.mp3 任贤齐 沧海一声笑
('/3.mp3', '齐秦', '往事随风')
/3.mp3 齐秦 往事随风
('/4.mp3', 'beyond', '光辉岁月')
/4.mp3 beyond 光辉岁月
('/5.mp3', '陈慧琳', '记事本')
/5.mp3 陈慧琳 记事本
('/6.mp3', '邓丽君', '但愿人长久')
/6.mp3 邓丽君 但愿人长久

可以看到，返回的列表中的每个元素都是元组类型，我们用对应的索引依次取出即可。

如果只是获取第一个内容，可以用search()方法。当需要提取多个内容时，可以用findall()方法。

sub()

除了使用正则表达式提取信息外，有时候还需要借助它来替换字符串，对其中的内容进行修改，比如我们想去掉一个字符串中所有数字，但用replace太麻烦了，我们可以借用sub()。比如这个实例：

import re
test_text ='euier23eerr23344eefdsdhssajakhsjs'
result = re.sub('\d+','',test_text)
print(result)

运行结果是：

euiereerreefdsdhssajakhsjs

这里只需要给第一个参数传入\d+来匹配所有的数字，第二个参数为替换成的字符串（如果去掉该参数的话，可以赋值为空），第三个参数是原字符串。
sub有的时候简化HTML,我们可以将不需要的部分替换掉，然后再来提取就简单很多，还是最开始那一段HTML文本，但这次我们只需要歌名。

html = re.sub('<a.*?>|</a>', '', html)
results = re.findall('<li.*?>(.*?)</li>', html, re.S)
for result in results:
    print(result.strip())

最后的结果是：

一路上有你
沧海一声笑
往事随风
光辉岁月
记事本
但愿人长久

通过这个实例，我们可以发现利用sub先替换，然后再正则表达式匹配，相对简单很多。

compile()

其实这个函数作用就是将正则字符串编译成正则表达式对象，以便在后面的匹配中复用。示例代码如下：

import re
content1 = '2016-12-15 12:00'
content2 = '2016-12-17 12:55'
content3 = '2016-12-22 13:21'
pattern = re.compile('\d{2}:\d{2}')
result1 = re.sub(pattern, '', content1)
result2 = re.sub(pattern, '', content2)
result3 = re.sub(pattern, '', content3)
print(result1, result2, result3)

运行结果：

2016-12-15  2016-12-17  2016-12-22 

这里有3个日期，我们想分别将3个日期中的时间去掉，这时可以借助sub()方法。该方法的第一个参数是正则表达式，但是这里没有必要重复写3个同样的正则表达式，此时可以借助compile()方法将正则表达式编译成一个正则表达式对象，以便复用。
compile()还可以传入修饰符，例如re.S等修饰符，这样在search()、findall()等方法中就不需要额外传了。所以，compile()方法可以说是给正则表达式做了一层封装，以便我们更好地复用。
正则表达式基础内容主要是这些了，想要了解更多可以去网上找对应的教程，下篇博客我会将讲解具体的爬取案例。