您当前的位置:首页 > IT编程 > python
| C语言 | Java | VB | VC | python | Android | TensorFlow | C++ | oracle | 学术与代码 | cnn卷积神经网络 | gnn | 图像修复 | Keras | 数据集 | Neo4j | 自然语言处理 | 深度学习 | 医学CAD | 医学影像 | 超参数 | pointnet | pytorch | 异常检测 | Transformers | 情感分类 | 知识图谱 |

自学教程:Python爬虫实现selenium处理iframe作用域问题

51自学网 2021-10-30 23:06:04
  python
这篇教程Python爬虫实现selenium处理iframe作用域问题写得很实用,希望能帮到您。

项目场景:

在使用selenium模块进行数据爬取时,通常会遇到爬取iframe中的内容。会因为定位的作用域问题爬取不到数据。

问题描述:

我们以菜鸟教程的运行实例为案例。
按照正常的定位

在这里插入图片描述

会以文本块生成xpath为/html/body/text()。这样的话根据xpath进行如下代码编写。

#!/user/bin/# -*- coding:UTF-8 -*-# Author:Masterfrom selenium import webdriverimport timedriver = webdriver.Chrome(executable_path="./chromedriver")driver.get('https://www.runoob.com/try/runcode.php?filename=HelloWorld&type=python3')time.sleep(2)text = driver.find_element_by_xpath('/html/body').textprint(text)time.sleep(5)driver.quit()

执行结果:

在这里插入图片描述

很明显这并不是想要的结果。

原因分析:

当我们打开抓包工具定位到Hello, World!文本的时候会发现,该文本是在一个iframe中。这样的话我们xpath所定位到的内容则是大的html中的路径。我们需要的内容则是在iframe中的小的html中。

解决方案:

通过分析发现,想要解决问题的实质就是改变作用域。通过switch_to.frame(‘id')方法来改变作用域就可以了。

重新编写代码:

#!/user/bin/# -*- coding:UTF-8 -*-# Author:Masterfrom selenium import webdriverimport timedriver = webdriver.Chrome(executable_path="./chromedriver")driver.get('https://www.runoob.com/try/runcode.php?filename=HelloWorld&type=python3')time.sleep(2)driver.switch_to.frame('iframeResult')text = driver.find_element_by_xpath('/html/body').textprint(text)time.sleep(5)driver.quit()

查看运行结果:

在这里插入图片描述

到此这篇关于Python爬虫实现selenium处理iframe作用域问题的文章就介绍到这了,更多相关selenium iframe作用域内容请搜索51zixue.net以前的文章或继续浏览下面的相关文章希望大家以后多多支持51zixue.net!


python利用appium实现手机APP自动化的示例
Python利用socket模块开发简单的端口扫描工具的实现
万事OK自学网:51自学网_软件自学网_CAD自学网自学excel、自学PS、自学CAD、自学C语言、自学css3实例,是一个通过网络自主学习工作技能的自学平台,网友喜欢的软件自学网站。