018-补，re模块、正则表达式

一，re模块

 1，判断输入的手机号是否合法

　　京东注册界面：https://reg.jd.com/reg/person?ReturnUrl=https%3A//www.jd.com/

　　输入12345678912 会提示格式不正确

　　假如用python写一段代码：

phone_number = input('please input your phone number ： ')

　　怎么判断这个phone_number是合法的呢？

　　根据手机号码一共11位而且是只以1三、1四、1五、18开头的数字这些特色，咱们用python写了以下代码：

 判断手机号码是否合法1

能够用下面的方式解决

 判断手机号码是否合法2

2，re模块 和 正则表达式的关系

　　1，re模块本质上和正则表达式没有一毛钱的关系。re模块和正则表达式的关系 相似于 time模块和时间的关系，re模块、time模块只不过是python提供给咱们的能够方便使用的工具

　　2，正则表达式自己 和 python没有关系，就是匹配字符串内容的一种规则。

　　3，官方定义：正则表达式是对字符串操做的一种逻辑公式，就是用事先定义好的一些特定字符、及这些特定字符的组合，组成一个“规则字符串”，这个“规则字符串”用来表达对字符串的一种过滤逻辑。

二，正则表达式

 1，在线测试工具

　　在线测试工具 ：http://tool.chinaz.com/regex/

　　谈到正则，就只和字符串相关了。在我给你提供的工具中，你输入的每个字都是一个字符串

2，字符组

　　字符组 ： [字符组]

• 在同一个位置可能出现的各类字符，组成了一个字符组，在正则表达式中用[ ]表示
• 字符分为不少类，好比数字、字母、标点等等。
• 假如你如今要求一个位置”只能出现一个数字”,那么这个位置上的字符只能是0、一、2...9这10个数之一。

正则	待匹配字符	匹配 结果	说明
[0123456789]	8	True	在一个字符组里枚举合法的全部字符，字符组里的任意一个字符 和"待匹配字符"相同都视为能够匹配
[0123456789]	a	False	因为字符组中没有"a"字符，因此不能匹配
[0-9]	7	True	也能够用-表示范围,[0-9]就和[0123456789]是一个意思
[a-z]	s	True	一样的若是要匹配全部的小写字母，直接用[a-z]就能够表示
[A-Z]	B	True	[A-Z]就表示全部的大写字母
[0-9a-fA-F]	e	True	能够匹配数字，大小写形式的a～f，用来验证十六进制字符

3，字符

元字符	匹配内容
.	匹配除换行符之外的任意字符
\w	匹配字母或数字或下划线
\s	匹配任意的空白符
\d	匹配数字
\n	匹配一个换行符
\t	匹配一个制表符
\b	匹配一个单词的结尾
^	匹配字符串的开始
$	匹配字符串的结尾
\W	匹配非字母或数字或下划线
\D	匹配非数字
\S	匹配非空白符
a|b	匹配字符a或字符b
()	匹配括号内的表达式，也表示一个组
[...]	匹配字符组中的字符
[^...]	匹配除了字符组中字符的全部字符

4，量词：

量词	用法说明
*	重复零次或更屡次
+	重复一次或更屡次
?	重复零次或一次
{n}	重复n次
{n,}	重复n次或更屡次
{n,m}	重复n到m次

5， . ^ $

正则	待匹配字符	匹配 结果	说明
海.	海燕海娇海东	海燕海娇海东	匹配全部"海."的字符
^海.	海燕海娇海东	海燕	只从开头匹配"海."
海.$	海燕海娇海东	海东	只匹配结尾的"海.$"

6，* + ? { }

正则	待匹配字符	匹配 结果	说明
李.?	李杰和李莲英和李二棍子	李杰 李莲 李二	?表示重复零次或一次，即只匹配"李"后面一个任意字符
李.*	李杰和李莲英和李二棍子	李杰和李莲英和李二棍子	*表示重复零次或屡次，即匹配"李"后面0或多个任意字符
李.+	李杰和李莲英和李二棍子	李杰和李莲英和李二棍子	+表示重复一次或屡次，即只匹配"李"后面1个或多个任意字符
李.{1,2}	李杰和李莲英和李二棍子	李杰和 李莲英 李二棍	{1,2}匹配1到2次任意字符

 注意：前面的*,+,?等都是贪婪匹配，也就是尽量匹配，后面加?号使其变成惰性匹配

正则	待匹配字符	匹配 结果	说明
李.*?	李杰和李莲英和李二棍子	李 李 李	惰性匹配

7，字符集［］［^］

正则	待匹配字符	匹配 结果	说明
李[杰莲英二棍子]*	李杰和李莲英和李二棍子	李杰 李莲英 李二棍子	表示匹配"李"字后面[杰莲英二棍子]的字符任意次
李[^和]*	李杰和李莲英和李二棍子	李杰 李莲英 李二棍子	表示匹配一个不是"和"的字符任意次
[\d]	456bdha3	4 5 6 3	表示匹配任意一个数字，匹配到4个结果
[\d]+	456bdha3	456 3	表示匹配任意个数字，匹配到2个结果

8，分组 ()与 或 ｜［^］

　　身份证号码是一个长度为15或18个字符的字符串，若是是15位则所有由数字组成，首位不能为0；若是是18位，则前17位所有是数字，末位多是数字或x，下面咱们尝试用正则来表示：

正则	待匹配字符	匹配 结果	说明
^[1-9]\d{13,16}[0-9x]$	110101198001017032	110101198001017032	表示能够匹配一个正确的身份证号
^[1-9]\d{13,16}[0-9x]$	1101011980010170	1101011980010170	表示也能够匹配这串数字，但这并非一个正确的身份证号码，它是一个16位的数字
^[1-9]\d{14}(\d{2}[0-9x])?$	1101011980010170	False	如今不会匹配错误的身份证号了 ()表示分组，将\d{2}[0-9x]分红一组，就能够总体约束他们出现的次数为0-1次
^([1-9]\d{16}[0-9x]|[1-9]\d{14})$	110105199812067023	110105199812067023	表示先匹配[1-9]\d{16}[0-9x]若是没有匹配上就匹配[1-9]\d{14}

9，转义符 \

　　在正则表达式中，有不少有特殊意义的是元字符，好比\n和\s等，若是要在正则中匹配正常的"\n"而不是"换行符"就须要对"\"进行转义，变成'\\'。

　　在python中，不管是正则表达式，仍是待匹配的内容，都是以字符串的形式出现的，在字符串中\也有特殊的含义，自己还须要转义。因此若是匹配一次"\n",字符串中要写成'\\n'，那么正则里就要写成"\\\\n",这样就太麻烦了。这个时候咱们就用到了r'\n'这个概念，此时的正则是r'\\n'就能够了。

正则	待匹配字符	匹配 结果	说明
\n	\n	False	由于在正则表达式中\是有特殊意义的字符，因此要匹配\n自己，用表达式\n没法匹配
\\n	\n	True	转义\以后变成\\，便可匹配
"\\\\n"	'\\n'	True	若是在python中，字符串中的'\'也须要转义，因此每个字符串'\'又须要转义一次
r'\\n'	r'\n'	True	在字符串以前加r，让整个字符串不转义

10，贪婪匹配

　　贪婪匹配：在知足匹配时，匹配尽量长的字符串，默认状况下，采用贪婪匹配

正则	待匹配字符	匹配 结果	说明
<.*>	<script>...<script>	<script>...<script>	默认为贪婪匹配模式，会匹配尽可能长的字符串
<.*?>	r'\d'	<script> <script>	加上？为将贪婪匹配模式转为非贪婪匹配模式，会匹配尽可能短的字符串

几个经常使用的非贪婪匹配 Pattern

*? 重复任意次，但尽量少重复
+? 重复1次或更屡次，但尽量少重复
?? 重复0次或1次，但尽量少重复
{n,m}? 重复n到m次，但尽量少重复
{n,}? 重复n次以上，但尽量少重复

　　.*? 的用法

. 是任意字符
* 是取 0 至 无限长度
? 是非贪婪模式。
何在一块儿就是 取尽可能少的任意字符，通常不会这么单独写，他大多用在：
.*?x

就是取前面任意长度的字符，直到一个x出现

　　

三，re模块下的经常使用方法

1，re模块下的经常使用方法

import re

ret = re.findall('a', 'eva egon yuan')  
# 返回全部知足匹配条件的结果,放在列表里
print(ret) #结果 : ['a', 'a']

ret = re.search('a', 'eva egon yuan').group()
print(ret) #结果 : 'a'
# 函数会在字符串内查找模式匹配,直到找到第一个匹配而后返回一个包含匹配信息的对象,
# 该对象能够经过调用group()方法获得匹配的字符串,
#若是字符串没有匹配，则返回None。

ret = re.match('a', 'abc').group()  
# 同search,不过尽在字符串开始处进行匹配
print(ret)#结果 : 'a'

ret = re.split('[ab]', 'abcd')
# 先按'a'分割获得''和'bcd',在对''和'bcd'分别按'b'分割
print(ret)  # ['', '', 'cd']

ret = re.sub('\d', 'H', 'eva3egon4yuan4', 1)
#将数字替换成'H'，参数1表示只替换1个
print(ret) #evaHegon4yuan4

ret = re.subn('\d', 'H', 'eva3egon4yuan4')
#将数字替换成'H'，返回元组(替换的结果,替换了多少次)
print(ret)

obj = re.compile('\d{3}')
#将正则表达式编译成为一个 正则表达式对象，规则要匹配的是3个数字
ret = obj.search('abc123eeee')
#正则表达式对象调用search，参数为待匹配的字符串
print(ret.group())  #结果 ： 123

import re
ret = re.finditer('\d', 'ds3sy4784a')   
#finditer返回一个存放匹配结果的迭代器
print(ret)  # <callable_iterator object at 0x10195f940>
print(next(ret).group())  #查看第一个结果
print(next(ret).group())  #查看第二个结果
print([i.group() for i in ret])  #查看剩余的左右结果

　　注意：

　　1.1，findall的优先级查询：

import re
ret = re.findall('www.(baidu|oldboy).com', 'www.oldboy.com')
print(ret)  # ['oldboy']     
# 这是由于 findall 会优先把匹配结果组里内容返回,若是想要匹配结果,取消权限便可

ret = re.findall('www.(?:baidu|oldboy).com', 'www.oldboy.com')
print(ret)  # ['www.oldboy.com']

　　1.2，split 的优先级查询

ret=re.split("\d+","eva3egon4yuan")
print(ret) #结果 ： ['eva', 'egon', 'yuan']

ret=re.split("(\d+)","eva3egon4yuan")
print(ret) #结果 ： ['eva', '3', 'egon', '4', 'yuan']

#在匹配部分加上（）以后所切出的结果是不一样的，
#没有（）的没有保留所匹配的项，可是有（）的却可以保留了匹配的项，
#这个在某些须要保留匹配部分的使用过程是很是重要的。

　　

四，综合练习与扩展

1，匹配标签

import re ret = re.search("<(?P<tag_name>\w+)>\w+</(?P=tag_name)>","<h1>hello</h1>") #还能够在分组中利用?<name>的形式给分组起名字 #获取的匹配结果能够直接用group('名字')拿到对应的值
print(ret.group('tag_name'))  #结果 ：h1
print(ret.group())  #结果 ：<h1>hello</h1>
 ret = re.search(r"<(\w+)>\w+</\1>","<h1>hello</h1>") #若是不给组起名字，也能够用\序号来找到对应的组，表示要找的内容和前面的组内容一致 #获取的匹配结果能够直接用group(序号)拿到对应的值
print(ret.group(1)) print(ret.group())  #结果 ：<h1>hello</h1>

View Code

2，匹配整数

import re ret=re.findall(r"\d+","1-2*(60+(-40.35/5)-(-4*3))") print(ret) #['1', '2', '60', '40', '35', '5', '4', '3']
ret=re.findall(r"-?\d+\.\d*|(-?\d+)","1-2*(60+(-40.35/5)-(-4*3))") print(ret) #['1', '-2', '60', '', '5', '-4', '3']
ret.remove("") print(ret) #['1', '-2', '60', '5', '-4', '3']

View Code

3，数字匹配

1、 匹配一段文本中的每行的邮箱 http://blog.csdn.net/make164492212/article/details/51656638

二、 匹配一段文本中的每行的时间字符串，好比：‘1990-07-12’； 分别取出1年的12个月（^(0?[1-9]|1[0-2])$）、 一个月的31天：^((0?[1-9])|((1|2)[0-9])|30|31)$ 三、 匹配qq号。(腾讯QQ号从10000开始)  ［1,9］[0,9]{4,} 四、 匹配一个浮点数。       ^(-?\d+)(\.\d+)?$   或者  -?\d+\.?\d*

五、 匹配汉字。             ^[\u4e00-\u9fa5]{0,}$ 六、 匹配出全部整数

View Code

4，爬虫练习

import requests import re import json def getPage(url): response=requests.get(url) return response.text def parsePage(s): com=re.compile('<div class="item">.*?<div class="pic">.*?<em .*?>(?P<id>\d+).*?<span class="title">(?P<title>.*?)</span>'
                   '.*?<span class="rating_num" .*?>(?P<rating_num>.*?)</span>.*?<span>(?P<comment_num>.*?)评价</span>',re.S) ret=com.finditer(s) for i in ret: yield { "id":i.group("id"), "title":i.group("title"), "rating_num":i.group("rating_num"), "comment_num":i.group("comment_num"), } def main(num): url='https://movie.douban.com/top250?start=%s&filter='%num response_html=getPage(url) ret=parsePage(response_html) print(ret) f=open("move_info7","a",encoding="utf8") for obj in ret: print(obj) data=json.dumps(obj,ensure_ascii=False) f.write(data+"\n") if __name__ == '__main__': count=0 for i in range(10): main(count) count+=25

View Code

import re import json from urllib.request import urlopen def getPage(url): response = urlopen(url) return response.read().decode('utf-8') def parsePage(s): com = re.compile( '<div class="item">.*?<div class="pic">.*?<em .*?>(?P<id>\d+).*?<span class="title">(?P<title>.*?)</span>'
        '.*?<span class="rating_num" .*?>(?P<rating_num>.*?)</span>.*?<span>(?P<comment_num>.*?)评价</span>', re.S) ret = com.finditer(s) for i in ret: yield { "id": i.group("id"), "title": i.group("title"), "rating_num": i.group("rating_num"), "comment_num": i.group("comment_num"), } def main(num): url = 'https://movie.douban.com/top250?start=%s&filter=' % num response_html = getPage(url) ret = parsePage(response_html) print(ret) f = open("move_info7", "a", encoding="utf8") for obj in ret: print(obj) data = str(obj) f.write(data + "\n") count = 0 for i in range(10): main(count) count += 25

简化版

flags有不少可选值： re.I(IGNORECASE)忽略大小写，括号内是完整的写法 re.M(MULTILINE)多行模式，改变^和$的行为 re.S(DOTALL)点能够匹配任意字符，包括换行符 re.L(LOCALE)作本地化识别的匹配，表示特殊字符集 \w, \W, \b, \B, \s, \S 依赖于当前环境，不推荐使用 re.U(UNICODE) 使用\w \W \s \S \d \D使用取决于unicode定义的字符属性。在python3中默认使用该flag re.X(VERBOSE)冗长模式，该模式下pattern字符串能够是多行的，忽略空白字符，并能够添加注释

flags