爬虫必学知识之正则表达式上篇

这是平常学python的第12篇文章
php

在向网页进行了提交请求之类的以后，咱们能够获得了网页的返回内容，里面天然而然会有咱们想要的数据，可是html元素文本这么多，咱们不可能一一去找咱们须要的数据，这时就须要用到正则表达式了，正则表达式是学爬虫必须学的内容，并且不止python能够用，java等其余语言均可以用，因此学了好处大大。html

什么是正则表达式？java

正则表达式就是一个特殊的字符序列，能够用于检测一个字符串是否与咱们的所设定的字符串相匹配。功能有快速检索文本和快速替换一些文本的操做。python

python里面有个处理正则表达式的库 re。有个方法正则表达式

findall(pattern,string,flags)微信

用来匹配正则达式，咱们就先用这个方法处理下。app

参数以下：python爬虫

pattern：正则表达式url
string：要进行匹配的字符串spa
flags：匹配的模式

结果是一个匹配内容的列表

'\d' : 这个表示匹配单个0-9数字

'\D' : 与\d相反，匹配数字之外的内容

用代码来感觉下：

import re#这个库是用来使用正则表达式的
a='sg+sga5g45gaae3f23hgt13'
r=re.findall('\d',a)#这个就是根据\d的正则表达式来查找对应字符，其中\d是对应0-9的数字
#查找非数字用\D
r1=re.findall('\D',a)
print(r)
print(r1)
#结果
['5', '4', '5', '3', '2', '3', '1', '3']
['s', 'g', '+', 's', 'g', 'a', 'g', 'g', 'a', 'a', 'e', 'f', 'h', 'g', 't']

能够看到找出了字符串中的数字和非数字

本文出自公众号「平常学python」

若是咱们在匹配一个字符串时，中间内容是有多个变化的，咱们须要应变多种不一样的字符，如这个字符串

a='abc,acc,agc,anc,afc,adc,aec'

若是须要匹配这个字符串时，咱们就须要用到 [ ] ,用中括号括起来的字符，里面的内容表示或关系，那来看看代码

import re
a='abc,acc,agc,anc,afc,adc,aec'
#如今查找上面的中间字符为c或者f的字符串
#这个要求能够用到字符集来实现
r=re.findall('a[cf]c',a)#[]表示字符集，里面的内容是或关系
# 结果
['acc', 'afc']

上面匹配了中间字符是c或者是f的字符串，匹配中间字符非c和非f,能够在前面加个 ^ 符号

import re
r=re.findall('a[……cf]c',a)#[c-f]就是表示从c到f
print(r)
# 结果
['abc', 'agc', 'anc', 'adc', 'aec']

上面只处理了中间字符为chu者f的字符串，可是没有匹配所有的，若要匹配所有，能够加个 - 符号，表示范围，以下

import re
r=re.findall('a[b-n]c',a)#[c-f]就是表示从c到f
print(r)
# 结果
['abc', 'acc', 'agc', 'anc', 'afc', 'adc', 'aec']

[b-n]:这个就是表示b到n的字符

匹配汉字：[\u4E00-\u9FA5]

归纳字符集：

用一个 \ + 字母 表示一系列的字符的元字符，只能匹配单个字符，经常使用的以下

\w：匹配数字和字符「不包括&符号」只匹配单词，数字和下划线
\W：与\w相反，这个包括空格和回车
\s：匹配空格字符，如空格，回车和制表符
\S：与\s相反
.：匹配除换行符以外的其余字符
还有前面的\d和\D也是

有个小技巧：若是想要匹配全部字符，就能够把上面的两个相反的合并起来就能够了。

代码以下：

#归纳字符集,就是用一个\加个字母来表示一类字符，好比刚开始的\d,\D
import re
a='hdsk\n122\rs3$ dkl%df36\t5&'
r=re.findall('\w',a)#这个是匹配数字和单词
print(r)
#也能够匹配非数字非单词
r=re.findall('\W',a)
print(r)
#匹配空格字符和制表符等其余字符
r=re.findall('\s',a)
print(r)
#匹配除换行符以外的其余字符
r=re.findall('.',a)
print(r)
# 结果
['h', 'd', 's', 'k', '1', '2', '2', 's', '3', 'd', 'k', 'l', 'd', 'f', '3', '6', '5']
['\n', '\r', '$', ' ', '%', '\t', '&']
['\n', '\r', ' ', '\t']
['h', 'd', 's', 'k', '1', '2', '2', '\r', 's', '3', '$', ' ', 'd', 'k', 'l', '%', 'd', 'f', '3', '6', '\t', '5', '&']

数量词：

当一个字符须要连续重复匹配屡次时，就要用到这个。如匹配三个字符组成的字符串：

[a-zA-z]{3} ，大括号里面的表示重复次数。

若要匹配三到六个字符，大括号的就须要这样写：{3,6}.

代码以下;

#数量词，当一个字符须要屡次重复匹配时就须要用到
import re
a='python java111php23 html'
r=re.findall('[a-z]{3}',a)#重复屡次就用大括号，括号内的数表示重复的次数
print(r)
#也能够重复一个范围，表示匹配3到6个字符
r=re.findall('[a-z]{3,6}',a)
print(r)#这样就能够把单词都找出来了
# 结果
['pyt', 'hon', 'jav', 'php', 'htm']
['python', 'java', 'php', 'html']

其余数量词表示：

* ：匹配零次或无限屡次
+：匹配一次或以上
?：匹配零次或者一次

a='pytho243python34pythonn'
#*表示匹配对应内容0次或者无限次
r=re.findall('python*',a)#这个就是表明对n字符的数量词匹配
print(r)
#+表示匹配内容1次或者无限次
r=re.findall('python+',a)
print(r)
#?表示能够匹配0次或者1次,注意这个？和上面的非贪婪表明的意思不同
r=re.findall('python?',a)
print(r)
# 结果
['pytho', 'python', 'pythonn']
['python', 'pythonn']
['pytho', 'python', 'python']

贪婪匹配：正则表达式默认为贪婪匹配，即匹配符合字符串的最大长度，如上面的[a-zA-z]{3,6}，他会趋于匹配长度为6的字符串，匹配到条件不知足时才中止匹配。

非贪婪匹配：就是趋于匹配长度最小的字符串，匹配知足第一个条件就会中止匹配

r=re.findall('[a-z]{3,6}',a)# 贪婪匹配
print(r)
r=re.findall('[a-z]{3,6}?',a)
print(r)#因为是非贪婪，因此匹配当第一个条件知足时就中止匹配
# 结果
['python', 'java', 'php', 'html']
['pyt', 'hon', 'jav', 'php', 'htm']

END

这篇文章只是介绍了下正则表达式的简单用法，能够用来入门正则，下一篇文章讲正则表达式高级点的用法。

留个小练习：写一个正则来匹配生日，字符串为：

2005-06-09
2005-6-9
2005 6 9
2005，06，09

能够把答案写在留言区哈！

上述文章若有错误欢迎在留言区指出，若是这篇文章对你有用，点个赞，转个发如何？