扫二维码与项目经理沟通
我们在微信上24小时期待你的声音
解答本文疑问/技术咨询/运营咨询/技术建议/互联网交流
创新互联www.cdcxhl.cn八线动态BGP香港云服务器提供商,新人活动买多久送多久,划算不套路!
成都创新互联成立于2013年,是专业互联网技术服务公司,拥有项目成都做网站、成都网站建设网站策划,项目实施与项目整合能力。我们以让每一个梦想脱颖而出为使命,1280元宾川做网站,已为上家服务,为宾川各地企业和个人服务,联系电话:18982081108今天就跟大家聊聊有关Xpath如何提取HTML数据,可能很多人都不太了解,为了让大家更加了解,小编给大家总结了以下内容,希望大家根据这篇文章可以有所收获。
1.简介
XPath是一门在 XML 文档中查找信息的语言。XPath 用于在 XML 文档中通过元素和属性进行导航。
相比于BeautifulSoup,Xpath在提取数据时会更加的方便。
2. 安装
在Python中很多库都有提供Xpath的功能,但是最基本的还是lxml这个库,效率最高。在之前BeautifulSoup章节中我们也介绍到了lxml是如何安装的。
pip install lxml
3. 语法
XPath 使用路径表达式在 XML 文档中选取节点。节点是通过沿着路径或者 step 来选取的。
我们将用以下的HTML文档来进行演示:
html_doc = '''''' Everyday Italian Giada De Laurentiis 2005 30.00 Harry Potter J K. Rowling 2005 29.99 XQuery Kick Start James McGovern Per Bothner Kurt Cagle James Linn Vaidyanathan Nagarajan 2003 49.99 Learning XML Erik T. Ray 2003 39.95
导入语句,并生成HTML的DOM树:
from lxml import etree page = etree.HTML(html_doc)
3.1. 路径查找
查找当前节点的子节点
In [1]: page.xpath('head') Out[1]: []
从根节点进行查找
In [2]: page.xpath('/html') Out[2]: []
从整个文档中所有节点查找
In [3]: page.xpath('//book') Out[3]: [, , , ]
选取当前节点的父节点
In [4]: page.xpath('//book')[0].xpath('..') Out[4]: []
选取属性
In [5]: page.xpath('//book')[0].xpath('@category') Out[5]: ['COOKING']
3.2. 节点查找
nodename[1]
选取第一个元素。
nodename[last()]
选取最后一个元素。
nodename[last()-1]
选取倒数第二个元素。
nodename[position()<3]
选取前两个子元素。
nodename[@lang]
选取拥有名为 lang 的属性的元素。
nodename[@lang='eng']
选取拥有lang属性,且值为 eng 的元素。
选取第二个book元素
In [1]: page.xpath('//book[2]/@category') Out[1]: ['CHILDREN']
选取倒数第三个book元素
In [2]: page.xpath('//book[last()-2]/@category') Out[2]: ['CHILDREN']
选取第二个元素开始的所有元素
In [3]: page.xpath('//book[position() > 1]/@category') Out[3]: ['CHILDREN', 'WEB', 'WEB']
选取category属性为WEB的的元素
In [4]: page.xpath('//book[@category="WEB"]/@category') Out[4]: ['WEB', 'WEB']
3.3. 未知节点
匹配第一个book元素下的所有元素
In [1]: page.xpath('//book[1]/*') Out[1]: [, , , ]
3.4. 获取节点中的文本
用text()获取某个节点下的文本
In [1]: page.xpath('//book[1]/author/text()') Out[1]: ['Giada De Laurentiis']
如果这个节点下有多个文本,则只能取到一段。
用string()获取某个节点下所有的文本
In [2]: page.xpath('string(//book[1])') Out[2]: '\n Everyday Italian\n Giada De Laurentiis\n
3.5. 选取多个路径
通过在路径表达式中使用“|”运算符,您可以选取若干个路径。
In [1]: page.xpath('//book[1]/title/text() | //book[1]/author/text()') Out[1]: ['Everyday Italian', 'Giada De Laurentiis']
看完上述内容,你们对Xpath如何提取HTML数据有进一步的了解吗?如果还想了解更多知识或者相关内容,请关注创新互联-成都网站建设公司行业资讯频道,感谢大家的支持。
我们在微信上24小时期待你的声音
解答本文疑问/技术咨询/运营咨询/技术建议/互联网交流