python（爬虫selenium）

Selenium 是一款用于模拟浏览器行为的自动化测试工具，也是爬虫领域中处理动态渲染页面（如 JS 加载、Ajax 请求、登录验证等）的核心工具。

一、导入库

python 复制代码

from selenium import webdriver
 from selenium.webdriver.edge.options import Options
 from selenium.webdriver.common.by import By
import time
 #
 edge_options =Options()
 edge_options.binary_location=r"C:\Program Files (x86)\Microsoft\Edge\Application\msedge.exe"
# ##edge浏览器的地址
 driver = webdriver.Edge(options=edge_options)

1.导入相关库的函数

from selenium import webdriver

from selenium.webdriver.edge.options import Options

from selenium.webdriver.common.by import By

2.导入edge浏览器的内核

edge_options.binary_location=r"C:\Program Files (x86)\Microsoft\Edge\Application\msedge.exe"

二、核心操作浏览器与页面控制

1.基础操作

|---------|-----------------------------------------|-------------------------|
| 打开页面 | driver.get("https://www.example.com") | 访问目标 URL |
| 刷新页面 | driver.refresh() | 刷新当前页面 |
| 前进 / 后退 | driver.forward() / driver.back() | 模拟浏览器前进 / 后退 |
| 窗口大小 | driver.set_window_size(1920, 1080) | 设置窗口尺寸 |
| 全屏 | driver.maximize_window() | 窗口最大化 |
| 关闭窗口 | driver.close() | 关闭当前标签页 |
| 退出浏览器 | driver.quit() | 关闭所有标签页并退出驱动（必写，否则进程残留） |

2.页面元素定位

定位元素是 Selenium 操作的基础，优先使用唯一标识（id/name），其次用 XPath/CSS 选择器，避免用索引（易变）。

|-------------------|----------------------------------------------|--------------------------------------------------------|-----------------|
| ID | find_element(By.ID, "id值") | driver.find_element(By.ID, "username") | 元素有唯一 ID |
| Name | find_element(By.NAME, "name值") | driver.find_element(By.NAME, "password") | 元素有 name 属性 |
| Class Name | find_element(By.CLASS_NAME, "类名") | driver.find_element(By.CLASS_NAME, "btn-submit") | 类名唯一 |
| Tag Name | find_element(By.TAG_NAME, "标签名") | driver.find_element(By.TAG_NAME, "input") | 标签唯一（如单个 input） |
| Link Text | find_element(By.LINK_TEXT, "链接文本") | driver.find_element(By.LINK_TEXT, "登录") | 精准匹配超链接文本 |
| Partial Link Text | find_element(By.PARTIAL_LINK_TEXT, "部分文本") | driver.find_element(By.PARTIAL_LINK_TEXT, "登") | 模糊匹配超链接 |
| XPath | find_element(By.XPATH, "XPath表达式") | driver.find_element(By.XPATH, '//*[@id="username"]') | 复杂定位（万能） |
| CSS Selector | find_element(By.CSS_SELECTOR, "CSS表达式") | driver.find_element(By.CSS_SELECTOR, "#username") | 高效定位（推荐） |

3.元素交互

python 复制代码

# 1. 点击元素（按钮/链接/复选框）
btn_elem = driver.find_element(By.CLASS_NAME, "submit-btn")
btn_elem.click()

# 2. 获取元素属性/文本
elem = driver.find_element(By.XPATH, '//div[@class="content"]')
print(elem.text)  # 获取元素可见文本
print(elem.get_attribute("href"))  # 获取href属性
print(elem.get_attribute("innerHTML"))  # 获取内部HTML

# 3. 输入文本（先清空再输入）
input_elem = driver.find_element(By.ID, "username")
input_elem.clear()  # 清空输入框
input_elem.send_keys("test123")  # 输入内容

执行Javascript 代码，可以将页面滚动到底部。

driver.execute_script('window.scrollTo(0,document.body.scrollHeight)')

4.等待渲染

可以通过time函数用sleep方法等待