编程小白的自学笔记十一(python爬虫入门三Selenium的使用+实例详解)

系列文章目录

编程小白的自学笔记十(python爬虫入门二+实例代码详解

编程小白的自学笔记九(python爬虫入门+代码详解)

编程小白的自学笔记八(python中的多线程)

编程小白的自学笔记七(python中类的继承)


目录

系列文章目录

文章目录

前言

一、Selenium是什么

二、安装Selenium

三、第一个例子(打开百度浏览器)

四、第二个例子(在百度搜索框内输入内容)

总结


前言

作为一个编程小白,目前按照书籍已经学完爬虫部分,但是书上的爬虫过于基础,难以实战,于是我又跟在"以山河作礼。"大佬的专栏后面学,今天学习到了Selenium的使用,记录一下。


**一、**Selenium是什么

官方回答是:Selenium 是最广泛使用的开源 Web UI(用户界面)自动化测试套件之一。 Selenium 测试脚本可以使用任何支持的编程语言进行编码,并且可以直接在大多数现代 Web 浏览器中运行。
我个人理解这东西可以模拟一些人的操作,具体有哪些,我们一步一步看(我也是边学边记)。

二、安装Selenium

pip install selenium,就是这么简单,不说了。大佬的文章里都会说下一个浏览器的驱动,然后操作驱动,我们先试试不用驱动行不行。

三、第一个例子(打开百度浏览器)

我们先看示例代码:

复制代码
from selenium import webdriver

drive = webdriver.Chrome()
drive.set_window_size(1100, 850)
drive.get('https://www.baidu.com/')
复制代码
输出结果是错误的,提示:"The version of chrome cannot be detected. Trying with latest driver version",这个错误就表示使用的驱动程序与安装的Chrome版本不兼容,看来必须下驱动了,但是我在另一台电脑上运行这段代码是可以的,于是我仔仔细细找了一遍,发现电脑里的谷歌浏览器运行文件名竟然是chrone.exe,抱着试一试的态度,我将其改成chrome.exe,运行果然成功了。

下面详细分析一下代码:

"from selenium import webdriver"的意思是:webdriver是selenium库中提供的一个类,它代表了一个浏览器实例,可以被用来控制浏览器进行各种操作。通过使用from selenium import webdriver,我们可以直接使用webdriver类来创建一个Chrome浏览器实例,并通过该实例来控制浏览器进行各种操作。

后面的三个代码就很好理解了,创建实例,设置窗口大小,输入打开的网页地址。

四、第二个例子(在百度搜索框内输入内容)

selenium提供了两个方法来获取元素位置。

find_element获取满足条件的第一个元素

find_elements获取满足条件的所有元素

这两个方法可以通过ID或者name来确定元素的位置,我们都来试试。
首先我们先了解一下网页,在检查模式下,我们可以看到输入框的html代码为:

<input id="kw" name="wd" class="s_ipt" value="" maxlength="255" autocomplete="off">
我们分析这段网页代码,它的ID属性是"kw",那么我们尝试编写一段代码,在输入框输入"加油",代码如下:

复制代码
from selenium import webdriver
from selenium.webdriver.common.by import By


drive = webdriver.Chrome()
drive.set_window_size(1100, 850)
drive.get('https://www.baidu.com/')
drive.find_element(By.ID, 'kw').send_keys('加油')

成功运行,结果如下图:

我们再试试name属性,代码如下:

复制代码
from selenium import webdriver
from selenium.webdriver.common.by import By
drive = webdriver.Chrome()
drive.set_window_size(1100, 850)
drive.get('https://www.baidu.com/')
drive.find_element(By.NAME, 'wd').send_keys('躺平')

也是成功运行的:

照例,我们来分析代码

"from selenium.webdriver.common.by import By"的意思是Selenium库的webdriver.common.by模块中导入了By类。

"drive.find_element(By.NAME, 'wd').send_keys('躺平')"就是通过NAME定位,输入"躺平"。

同样定位的方法还有很多,例如:

drive.find_element(By.CLASS_NAME, 's_ipt').send_keys('躺平')


总结

Selenium是一个支持各大浏览器的自动化测试工具,包括 Chrome,Safari,Firefox ,ie等。它可以直接运行在浏览器中,就如同真正的客户在使用一样。Selenium可以用于爬虫,解决一些复杂爬虫的问题。使用Selenium可以获取动态的网页数据,一些动态的数据在网页的源代码中并没有显示,这时候可以考虑用Selenium获取。
以下是selenium常用的一些方法 :

  • `driver.get(url)`:打开一个网页。

  • `driver.find_element_by_*()`:通过各种方式查找元素。

  • `driver.find_elements_by_*()`:通过各种方式查找元素,返回的是一个列表。

  • `driver.execute_script(*args)`:执行JavaScript代码。

  • `driver.switch_to.window(*args)`:切换到指定窗口。

  • `driver.switch_to.frame(*args)`:切换到指定frame。

  • `driver.back()`:返回上一个页面。

  • `driver.forward()`:前进到下一个页面。

  • `driver.refresh()`:刷新当前页面。

相关推荐
帅云毅3 分钟前
Web3.0的认知补充(去中心化)
笔记·学习·web3·去中心化·区块链
豆豆3 分钟前
day32 学习笔记
图像处理·笔记·opencv·学习·计算机视觉
爱吃泡芙的小白白6 分钟前
爬虫学习——使用HTTP服务代理、redis使用、通过Scrapy实现分布式爬取
redis·分布式·爬虫·http代理·学习记录
逢生博客13 分钟前
使用 Python 项目管理工具 uv 快速创建 MCP 服务(Cherry Studio、Trae 添加 MCP 服务)
python·sqlite·uv·deepseek·trae·cherry studio·mcp服务
堕落似梦19 分钟前
Pydantic增强SQLALchemy序列化(FastAPI直接输出SQLALchemy查询集)
python
白熊18823 分钟前
【计算机视觉】CV实战项目 - 基于YOLOv5的人脸检测与关键点定位系统深度解析
人工智能·yolo·计算机视觉
nenchoumi311925 分钟前
VLA 论文精读(十六)FP3: A 3D Foundation Policy for Robotic Manipulation
论文阅读·人工智能·笔记·学习·vln
凉、介31 分钟前
PCI 总线学习笔记(五)
android·linux·笔记·学习·pcie·pci
后端小肥肠35 分钟前
文案号搞钱潜规则:日入四位数的Coze工作流我跑通了
人工智能·coze
LCHub低代码社区36 分钟前
钧瓷产业原始创新的许昌共识:技术破壁·产业再造·生态重构(一)
大数据·人工智能·维格云·ai智能体·ai自动化·大禹智库·钧瓷码