爬虫4：re库

时间 2020-08-09 标签爬虫

一. 常见匹配模式

模式	描述
\w	匹配字母数字及下划线
\W	匹配非字母数字下划线
\s	匹配任意空白字符，等价于 [\t\n\r\f].
\S	匹配任意非空字符
\d	匹配任意数字，等价于 [0-9]
\D	匹配任意非数字
\A	匹配字符串开始
\Z	匹配字符串结束，若是是存在换行，只匹配到换行前的结束字符串
\z	匹配字符串结束
\G	匹配最后匹配完成的位置
\n	匹配一个换行符
\t	匹配一个制表符
^	匹配字符串的开头
$	匹配字符串的末尾。
.	匹配任意字符，除了换行符，当re.DOTALL标记被指定时，则能够匹配包括换行符的任意字符。
[...]	用来表示一组字符,单独列出：[amk] 匹配 'a'，'m'或'k'
[^...]	不在[]中的字符：[^abc] 匹配除了a,b,c以外的字符。
*	匹配0个或多个的表达式。
+	匹配1个或多个的表达式。
?	匹配0个或1个由前面的正则表达式定义的片断，非贪婪方式
{n}	精确匹配n个前面表达式。
{n, m}	匹配 n 到 m 次由前面的正则表达式定义的片断，贪婪方式
a\|b	匹配a或b
( )	匹配括号内的表达式，也表示一个组

二. re.match

re.match 尝试从字符串的起始位置匹配一个模式，若是不是起始位置匹配成功的话，match()就返回none。

re.match(pattern, string, flags=0)

1. 最常规的匹配

import re

content = 'Hello 123 4567 World_This is a Regex Demo'

print(len(content))

result = re.match('^Hello\s\d\d\d\s\d{4}\s\w{10}.*Demo$', content)

print(result)

print(result.group()) //返回匹配结果

print(result.span())

输出结果：

<_sre.SRE_Match object; span=(0, 41), match='Hello 123 4567 World_This is a Regex Demo'>

Hello 123 4567 World_This is a Regex Demo

(0, 41)

2. 泛匹配

import re

content = 'Hello 123 4567 World_This is a Regex Demo'

result = re.match('^Hello.*Demo$', content)

print(result)

print(result.group())

print(result.span())

输出结果：

<_sre.SRE_Match object; span=(0, 41), match='Hello 123 4567 World_This is a Regex Demo'>

Hello 123 4567 World_This is a Regex Demo

(0, 41)

3. 匹配目标

import re

content = 'Hello 1234567 World_This is a Regex Demo'

result = re.match('^Hello\s(\d+)\sWorld.*Demo$', content)

print(result)

print(result.group(1))

print(result.span())

输出结果：

<_sre.SRE_Match object; span=(0, 40), match='Hello 1234567 World_This is a Regex Demo'>

1234567

(0, 40)

4. 贪婪匹配

In [21]:

import re

content = 'Hello 1234567 World_This is a Regex Demo'

result = re.match('^He.*(\d+).*Demo$', content)

print(result)

print(result.group(1))

输出结果：

<_sre.SRE_Match object; span=(0, 40), match='Hello 1234567 World_This is a Regex Demo'>

说明：正则前面的.*尽量多的匹配字符，只给(\d+)留了最后一个数字，称为贪婪匹配

5. 非贪婪匹配

In [22]:

import re

content = 'Hello 1234567 World_This is a Regex Demo'

result = re.match('^He.*?(\d+).*Demo$', content)

print(result)

print(result.group(1))

输出结果

<_sre.SRE_Match object; span=(0, 40), match='Hello 1234567 World_This is a Regex Demo'>

1234567

说明：在.*后面加一个？就会尽量少的匹配结果，称为非贪婪匹配

6. 匹配模式

In [26]:

import re

content = '''Hello 1234567 World_This

is a Regex Demo

'''

result = re.match('^He.*?(\d+).*?Demo$', content, re.S)

print(result.group(1))

输出结果

1234567

说明：.*不能匹配换行符，在re.match()中添加一个re.S以后，就能使.*匹配换行符

7. 转义

In [28]:

import re

content = 'price is $5.00'

result = re.match('price is $5.00', content)

print(result)

输出结果：None

In [31]:

import re

content = 'price is $5.00'

result = re.match('price is \$5\.00', content)

print(result)

<_sre.SRE_Match object; span=(0, 14), match='price is $5.00'>

总结：尽可能使用泛匹配、使用括号获得匹配目标、尽可能使用非贪婪模式、有换行符就用re.S

三. re.search

re.search 扫描整个字符串并返回第一个成功的匹配。

1. 比较re.match和re.search

In [32]:

import re

content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'

result = re.match('Hello.*?(\d+).*?Demo', content)

print(result)

输出结果：None

In [35]:

import re

content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'

result = re.search('Hello.*?(\d+).*?Demo', content)

print(result)

print(result.group(1))

输出结果：

<_sre.SRE_Match object; span=(13, 53), match='Hello 1234567 World_This is a Regex Demo'>

1234567

总结：为匹配方便，能用search就不用match

2. 匹配演练

例子1

In [36]:

import re

html = '''<div id="songs-list">

经典老歌列表

</p>

<li data-view="2">一路上有你</li>

<a href="/2.mp3" singer="任贤齐">沧海一声笑</a>

</li>

</li>

<a href="/6.mp3" singer="邓丽君"><i class="fa fa-user"></i>希望人长久</a>

</li>

</ul>

</div>'''

//爬取所需信息

result = re.search('<li.*?active.*?singer="(.*?)">(.*?)</a>', html, re.S)

if result:

print(result.group(1), result.group(2))

齐秦往事随风

例子2

In [37]:

import re

html = '''<div id="songs-list">

经典老歌列表

</p>

<li data-view="2">一路上有你</li>

<a href="/2.mp3" singer="任贤齐">沧海一声笑</a>

</li>

</li>

<a href="/6.mp3" singer="邓丽君">希望人长久</a>

</li>

</ul>

</div>'''

//爬去所需信息

result = re.search('<li.*?singer="(.*?)">(.*?)</a>', html, re.S)

if result:

print(result.group(1), result.group(2))

任贤齐沧海一声笑

例子3

In [40]:

import re

html = '''<div id="songs-list">

经典老歌列表

</p>

<li data-view="2">一路上有你</li>

<a href="/2.mp3" singer="任贤齐">沧海一声笑</a>

</li>

</li>

<a href="/6.mp3" singer="邓丽君">希望人长久</a>

</li>

</ul>

</div>'''

//爬取

result = re.search('<li.*?singer="(.*?)">(.*?)</a>', html)

if result:

print(result.group(1), result.group(2))

beyond 光辉岁月

四. re.findall

搜索字符串，以列表形式返回所有能匹配的子串。

例子1

In [44]:

import re

html = '''<div id="songs-list">

经典老歌列表

</p>

<li data-view="2">一路上有你</li>

<a href="/2.mp3" singer="任贤齐">沧海一声笑</a>

</li>

</li>

<a href="/6.mp3" singer="邓丽君">希望人长久</a>

</li>

</ul>

</div>'''

//正则

results = re.findall('<li.*?href="(.*?)".*?singer="(.*?)">(.*?)</a>', html, re.S)

print(results)

print(type(results))

for result in results:

print(result)

print(result[0], result[1], result[2])

输出结果：

[('/2.mp3', '任贤齐', '沧海一声笑'), ('/3.mp3', '齐秦', '往事随风'), ('/4.mp3', 'beyond', '光辉岁月'), ('/5.mp3', '陈慧琳', '记事本'), ('/6.mp3', '邓丽君', '希望人长久')]

('/2.mp3', '任贤齐', '沧海一声笑')

/2.mp3 任贤齐沧海一声笑

('/3.mp3', '齐秦', '往事随风')

/3.mp3 齐秦往事随风

('/4.mp3', 'beyond', '光辉岁月')

/4.mp3 beyond 光辉岁月

('/5.mp3', '陈慧琳', '记事本')

/5.mp3 陈慧琳记事本

('/6.mp3', '邓丽君', '希望人长久')

/6.mp3 邓丽君希望人长久

例子2

In [46]:

import re

html = '''<div id="songs-list">

经典老歌列表

</p>

<li data-view="2">一路上有你</li>

<a href="/2.mp3" singer="任贤齐">沧海一声笑</a>

</li>

</li>

<a href="/6.mp3" singer="邓丽君">希望人长久</a>

</li>

</ul>

</div>'''

//正则爬信息

results = re.findall('<li.*?>\s*?(<a.*?>)?(\w+)(</a>)?\s*?</li>', html, re.S)

print(results)

for result in results:

print(result[1])

输出结果：

[('', '一路上有你', ''), ('<a href="/2.mp3" singer="任贤齐">', '沧海一声笑', '</a>'), ('<a href="/3.mp3" singer="齐秦">', '往事随风', '</a>'), ('<a href="/4.mp3" singer="beyond">', '光辉岁月', '</a>'), ('<a href="/5.mp3" singer="陈慧琳">', '记事本', '</a>'), ('<a href="/6.mp3" singer="邓丽君">', '希望人长久', '</a>')]

一路上有你

沧海一声笑

往事随风

光辉岁月

记事本

希望人长久

五。re.sub

替换字符串中每个匹配的子串后返回替换后的字符串。

例子1，把数字替换为空

In [47]:

import re

content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'

content = re.sub('\d+', '', content)

print(content)

输出结果：

Extra stings Hello World_This is a Regex Demo Extra stings

例子2

In [48]:

import re

content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'

content = re.sub('\d+', 'Replacement', content)

print(content)

输出结果：

Extra stings Hello Replacement World_This is a Regex Demo Extra stings

例子3

In [51]:

import re

content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'

content = re.sub('(\d+)', r'\1 8910', content)

print(content)

输出结果：

Extra stings Hello 1234567 8910 World_This is a Regex Demo Extra stings

说明：其中 \1表示第一个小括号的信息，也就是(\d+)的内容；由于\1是一个转义字符，须要在前面加个r来转为原生字符

例子4，结合使用re.sub和re.findall

In [54]:

import re

html = '''<div id="songs-list">

经典老歌列表

</p>

<li data-view="2">一路上有你</li>

<a href="/2.mp3" singer="任贤齐">沧海一声笑</a>

</li>

</li>

<a href="/6.mp3" singer="邓丽君">希望人长久</a>

</li>

</ul>

</div>'''

//爬取相关信息

html = re.sub('<a.*?>|</a>', '', html)

print(html)

results = re.findall('<li.*?>(.*?)</li>', html, re.S)

print(results)

for result in results:

print(result.strip()) //strip()方法去掉换行符

输出结果：

经典老歌列表

</p>

<li data-view="2">一路上有你</li>

沧海一声笑

</li>

往事随风

</li>

希望人长久

</li>

</ul>

</div>

['一路上有你', '\n 沧海一声笑\n ', '\n 往事随风\n ', '光辉岁月', '记事本', '\n 希望人长久\n ']

一路上有你

沧海一声笑

往事随风

光辉岁月

记事本

希望人长久

六 re.compile

将一个正则表达式串编译成正则对象，以便于复用该匹配模式

例子1

In [57]:

import re

content = '''Hello 1234567 World_This

is a Regex Demo'''

pattern = re.compile('Hello.*Demo', re.S) //可复用此pattern对象

result = re.match(pattern, content)

#result = re.match('Hello.*Demo', content, re.S) //这行代码和上面两行效果是同样的

print(result)

输出结果：

<_sre.SRE_Match object; span=(0, 40), match='Hello 1234567 World_This\nis a Regex Demo'>

七. re.split

举个例子说明html

>>>m = re.split('\d+', 'abc12fff44')git

>>>m正则表达式

['abc', 'fff', '']ide

>>>m = re.split('(\d+)', 'abc12fff44') #匹配部分加上（）post

>>> murl

['abc', '12', 'fff', '44', '']spa

注意：3d

1. 匹配符前须要加转义符code

2. 匹配部分加上（）能保留匹配项，不加()不保留匹配项htm

3. 结果会有一个空字符

实战练习

In [62]:

import requests

import re

content = requests.get(' https://book.douban.com/').text

pattern = re.compile('<li.*?cover.*?href="(.*?)".*?title="(.*?)".*?more-meta.*?author">(.*?)</span>.*?year">(.*?)</span>.*?</li>', re.S)

results = re.findall(pattern, content)

for result in results:

url, name, author, date = result

author = re.sub('\s', '', author) //消除换行符\n

date = re.sub('\s', '', date)

print(url, name, author, date)

输出结果：

 1 https://book.douban.com/subject/26925834/?icn=index-editionrecommend 别走出这一步 [英]S.J.沃森 2017-1
 2 https://book.douban.com/subject/26953532/?icn=index-editionrecommend 白先勇细说红楼梦 白先勇 2017-2-1
 3 https://book.douban.com/subject/26959159/?icn=index-editionrecommend 岁月凶猛 冯仑 2017-2
 4 https://book.douban.com/subject/26949210/?icn=index-editionrecommend 若是没有今天，明天会不会有昨天？ [瑞士]伊夫·博萨尔特（YvesBossart） 2017-1
 5 https://book.douban.com/subject/27001447/?icn=index-editionrecommend 人类这100年 阿夏 2017-2
 6 https://book.douban.com/subject/26864566/?icn=index-latestbook-subject 眼泪的化学 [澳]彼得·凯里 2017-2
 7 https://book.douban.com/subject/26991064/?icn=index-latestbook-subject 青年斯大林 [英]西蒙·蒙蒂菲奥里 2017-3
 8 https://book.douban.com/subject/26938056/?icn=index-latestbook-subject 带艾伯特回家 [美]霍默·希卡姆 2017-3
 9 https://book.douban.com/subject/26954757/?icn=index-latestbook-subject 乳房 [美]弗洛伦斯·威廉姆斯 2017-2
10 https://book.douban.com/subject/26956479/?icn=index-latestbook-subject 草原动物园 马伯庸 2017-3
11 https://book.douban.com/subject/26956018/?icn=index-latestbook-subject 贩卖音乐 [美]大卫·伊斯曼 2017-3-1
12 https://book.douban.com/subject/26703649/?icn=index-latestbook-subject 被占的宅子 [阿根廷]胡利奥·科塔萨尔 2017-3
13 https://book.douban.com/subject/26578402/?icn=index-latestbook-subject 信仰与观看 [法]罗兰·雷希特(RolandRecht) 2017-2-17
14 https://book.douban.com/subject/26939171/?icn=index-latestbook-subject 妹妹的坟墓 [美]罗伯特·杜格尼(RobertDugoni) 2017-3-1
15 https://book.douban.com/subject/26972465/?icn=index-latestbook-subject 全栈市场人 Lydia 2017-2-1
16 https://book.douban.com/subject/26986928/?icn=index-latestbook-subject 终极X战警2 [英]马克·米勒&nbsp;/&nbsp;[美]亚当·库伯特 2017-3-15
17 https://book.douban.com/subject/26948144/?icn=index-latestbook-subject 格调（修订第3版） [美]保罗·福塞尔（PaulFussell） 2017-2
18 https://book.douban.com/subject/26945792/?icn=index-latestbook-subject 原谅石 [美]洛里·斯皮尔曼 2017-2
19 https://book.douban.com/subject/26974207/?icn=index-latestbook-subject 庇护二世闻见录 [意]皮科洛米尼 2017-2
20 https://book.douban.com/subject/26983143/?icn=index-latestbook-subject 碰见野兔的那一年 [芬]阿托·帕西林纳 2017-3-1
21 https://book.douban.com/subject/26976429/?icn=index-latestbook-subject 鲍勃·迪伦：诗人之歌 [法]让-多米尼克·布里埃 2017-4
22 https://book.douban.com/subject/26962860/?icn=index-latestbook-subject 牙医谋杀案 [英]阿加莎·克里斯蒂 2017-3
23 https://book.douban.com/subject/26923022/?icn=index-latestbook-subject 石挥谈艺录：把生命交给舞台 石挥 2017-2
24 https://book.douban.com/subject/26897190/?icn=index-latestbook-subject 理想 [美]安·兰德 2017-2
25 https://book.douban.com/subject/26985981/?icn=index-latestbook-subject 青苔不会消失 袁凌 2017-4
26 https://book.douban.com/subject/26984949/?icn=index-latestbook-subject 地下铁道 [美]科尔森·怀特黑德（ColsonWhitehead） 2017-3
27 https://book.douban.com/subject/26944012/?icn=index-latestbook-subject 极简进步史 [英]罗纳德·赖特 2017-4-1
28 https://book.douban.com/subject/26969002/?icn=index-latestbook-subject 驻马店伤心故事集 郑在欢 2017-2
29 https://book.douban.com/subject/26854223/?icn=index-latestbook-subject 致薇拉 [美]弗拉基米尔·纳博科夫 2017-3
30 https://book.douban.com/subject/26841616/?icn=index-latestbook-subject 北方档案 [法]玛格丽特·尤瑟纳尔 2017-2
31 https://book.douban.com/subject/26980391/?icn=index-latestbook-subject 食帖15：便当灵感集 林江 2017-2
32 https://book.douban.com/subject/26958882/?icn=index-latestbook-subject 生火 [法]克里斯多夫·夏布特（ChristopheChabouté）编绘 2017-3
33 https://book.douban.com/subject/26989163/?icn=index-latestbook-subject 文明之光（第四册） 吴军 2017-3-1
34 https://book.douban.com/subject/26878906/?icn=index-latestbook-subject 公牛山 [美]布赖恩·帕诺威奇 2017-2
35 https://book.douban.com/subject/26989534/?icn=index-latestbook-subject 几乎消失的偷闲艺术 [加拿大]达尼·拉费里埃 2017-4
36 https://book.douban.com/subject/26939973/?icn=index-latestbook-subject 散步去 [日]谷口治郎 2017-3
37 https://book.douban.com/subject/26865333/?icn=index-latestbook-subject 中国1945 [美]理查德·伯恩斯坦(RichardBernstein) 2017-3-1
38 https://book.douban.com/subject/26989242/?icn=index-latestbook-subject 有匪2：离恨楼 Priest 2017-3
39 https://book.douban.com/subject/26985790/?icn=index-latestbook-subject 女人、火与危险事物 [美]乔治·莱考夫 2017-3
40 https://book.douban.com/subject/26972277/?icn=index-latestbook-subject 寻找时间的人 [爱尔兰]凯特·汤普森 2017-3
41 https://www.douban.com/note/610758170/ 白先勇细说红楼梦【全二册】 白先勇 2017-2-1
42 https://read.douban.com/ebook/31540864/?dcs=book-hot&amp;dcm=douban&amp;dct=read-subject 奇爱博士 [英]彼得·乔治 2016-8-1
43 https://read.douban.com/ebook/31433872/?dcs=book-hot&amp;dcm=douban&amp;dct=read-subject 在时光中怒放的女子 李筱懿 2017-3
44 https://read.douban.com/ebook/31178635/?dcs=book-hot&amp;dcm=douban&amp;dct=read-subject 如何高效记忆（原书第2版） [美]肯尼思•希格比（KennethL.Higbee） 2017-3-5
45 https://read.douban.com/ebook/31358183/?dcs=book-hot&amp;dcm=douban&amp;dct=read-subject 愿无岁月可回头 回忆专用小马甲 2016-9
46 https://read.douban.com/ebook/31341636/?dcs=book-hot&amp;dcm=douban&amp;dct=read-subject 走神的艺术与科学 [新西兰]迈克尔·C.科尔巴里斯 2017-3-1
47 https://read.douban.com/ebook/27621094/?dcs=book-hot&amp;dcm=douban&amp;dct=read-subject 神秘的量子生命 [英]吉姆•艾尔－哈利利/约翰乔•麦克法登 2016-8
48 https://read.douban.com/ebook/31221966/?dcs=book-hot&amp;dcm=douban&amp;dct=read-subject 寻找时间的人 [爱尔兰]凯特·汤普森 2017-3
49 https://read.douban.com/ebook/31481323/?dcs=book-hot&amp;dcm=douban&amp;dct=read-subject 山之四季 [日]高村光太郎 2017-1
50 https://read.douban.com/ebook/31154855/?dcs=book-hot&amp;dcm=douban&amp;dct=read-subject 东北游记 [美]迈克尔·麦尔 2017-1

View Code

转载于:https://www.cnblogs.com/regit/p/9243675.html