XPath

目录

• 一、什么是XPath
• 二、为何要使用XPath
• 三、怎么用XPath
• 四、XPath语法

一、什么是XPath

　　XPath在Python的爬虫学习中，起着举足轻重的地位，对比正则表达式 re二者能够完成一样的工做，实现的功能也差很少，但XPath明显比re具备优点，在网页分析上使re退居二线。　　

　　XPath是什么？ 全称为XML Path Language 一种小型的查询语言说道XPath是门语言。

二、为何要使用XPath

• Xpath的优势

• 可在XML中查找信息
• 支持HTML的查找

• 经过元素和属性进行导航

三、怎么用XPath

python开发使用XPath条件：
因为XPath属于lxml库模块，因此首先要安装库lxml。XPath的简单调用方法

from lxml import etree
# 将源码转化为能被XPath匹配的格式
selector=etree.HTML(源码) 

# 返回为一列表
selector.xpath(表达式)

四、XPath语法

1.选取节点

nodename     选取nodename节点的全部子节点         xpath(‘//div’)         选取了全部div节点
/            从根节点选取                        xpath(‘/div’)          从根节点上选取div节点
//           选取全部的当前节点，不考虑他们的位置    xpath(‘//div’)         选取全部的div节点
.            选取当前节点                        xpath(‘./div’)         选取当前节点下的div节点
..           选取当前节点的父节点                 xpath(‘..’)            回到上一个节点
@            选取属性                           xpath（’//@calss’）     选取全部的class属性

2.谓语

'''
表达式:                                    结果:
　　 xpath(‘/body/div[1]’)                     选取body下的第一个div节点
　　 xpath(‘/body/div[last()]’)                选取body下最后一个div节点
　　 xpath(‘/body/div[last()-1]’)              选取body下倒数第二个div节点
　　 xpath(‘/body/div[positon()<3]’)           选取body下前两个div节点
　　 xpath(‘/body/div[@class]’)                选取body下带有class属性的div节点
　　 xpath(‘/body/div[@class=”main”]’)         选取body下class属性为main的div节点　　
　　 xpath(‘/body/div[price>35.00]’)           选取body下price元素值大于35的div节点

'''

ret=selector.xpath("//p[@class='story']//a[2]")
ret=selector.xpath("//p[@class='story']//a[last()]")

3.通配符

'''
通配符 Xpath经过通配符来选取未知的XML元素。

表达式：              　　结果：
　　xpath（’/div/*’）        选取div下的全部子节点
　　xpath(‘/div[@*]’)    　　选取全部带属性的div节点

'''

ret=selector.xpath("//p[@class='story']/*")
ret=selector.xpath("//p[@class='story']/a[@class]")

4.取多个路劲

'''
使用“|”运算符能够选取多个路径

表达式：                            结果：
    xpath(‘//div|//table’)         选取全部的div和table节点

'''

ret=selector.xpath("//p[@class='story']/a[@class]|//div[@class='d3']")
print(ret)

5.XPath轴

'''
轴能够定义相对于当前节点的节点集

轴名称:                      表达式：                             　　 描述：
ancestor                   　　 xpath(‘./ancestor::*’)             　　  选取当前节点的全部先辈节点（父、祖父）
ancestor-or-self           　　 xpath(‘./ancestor-or-self::*’)     　　  选取当前节点的全部先辈节点以及节点自己
attribute                 　　  xpath(‘./attribute::*’)            　　  选取当前节点的全部属性
child                     　　  xpath(‘./child::*’)                　　  返回当前节点的全部子节点
descendant                　　  xpath(‘./descendant::*’)           　　  返回当前节点的全部后代节点（子节点、孙节点）
following                 　　  xpath(‘./following::*’)            　　  选取文档中当前节点结束标签后的全部节点
following-sibing           　　 xpath(‘./following-sibing::*’)    　　   选取当前节点以后的兄弟节点
parent                  　　　 　xpath(‘./parent::*’)               　 　 选取当前节点的父节点
preceding               　　　 　xpath(‘./preceding::*’)             　　 选取文档中当前节点开始标签前的全部节点

preceding-sibling       　　　　 xpath(‘./preceding-sibling::*’)     　　 选取当前节点以前的兄弟节点
self                    　 　　　xpath(‘./self::*’)                  　　 选取当前节点

6.功能函数

函数	用法	解释
starts-with	xpath(‘//div[starts-with(@id,”ma”)]‘)	选取id值以ma开头的div节点
contains	xpath(‘//div[contains(@id,”ma”)]‘)	选取id值包含ma的div节点
and	xpath(‘//div[contains(@id,”ma”) and contains(@id,”in”)]‘)	选取id值包含ma和in的div节点
text()	xpath(‘//div[contains(text(),”ma”)]‘)	选取节点文本包含ma的div节点

7.extract() 与 extract_frist()

extract()   指的是提取全部
extract_frist()   指的是提取第一个