【自用】Python爬虫学习(七):selenium网页自动化操作

Python爬虫学习(七)


selenium介绍

selenium是一个广泛使用的开源自动化测试框架,主要用于Web应用程序的功能测试。它支持多种浏览器(如Chrome、Firefox、 Safari等)和操作系统(Windows、Mac、Linux),并允许用户通过编写代码自动执行浏览器中的操作。

Selenium可以很好地处理动态加载的Web内容,包括AJAX和JavaScript生成的元素,覆盖面更广。

selenium基础用法

python 复制代码
import time
from lxml import etree
from selenium import webdriver

# 新发地网址
url = 'http://www.xinfadi.com.cn/index.html'

# 实例化一个浏览器对象
bro = webdriver.Edge()

# 让浏览器发起一个指定url对应请求
bro.get(url)

# page_source获取浏览器当前页面的页面源码数据
# (包含所见的所有数据,无论是服务器渲染还是客户端渲染都一样)
page_text = bro.page_source
# print(page_text)

tree = etree.HTML(page_text)
tr_list = tree.xpath('//tbody[@id="ulTableBody"]/tr')
# print(tr_list[1])
for tr in tr_list:
    prodName = tr.xpath('./td[1]/text()')
    lowprice = tr.xpath('./td[2]/text()')
    avgprice = tr.xpath('./td[3]/text()')
    highprice = tr.xpath('./td[4]/text()')
    date = tr.xpath('./td[8]/text()')
    print(prodName, lowprice, avgprice, highprice, date)

time.sleep(5)
bro.quit()

运行结果:

selenium其他自动化操作

python 复制代码
import time
from selenium import webdriver

url = 'https://www.taobao.com/'

# 实例化一个浏览器对象
bro = webdriver.Edge()

# 让浏览器发起一个指定url对应请求
bro.get(url)

# 标签定位,定位到页面中的搜索框
search_input = bro.find_element(by='id', value='q')
# 标签交互,在搜索框中输入文本
search_input.send_keys('iphone')

# 执行一组js程序,右侧滑动一个页面的高度
bro.execute_script('window.scrollTo(0,document.body.scrollHeight)')
time.sleep(5)

# 点击搜索按钮
search_button = bro.find_element(by='css selector', value='.btn-search')
search_button.click()

# 重新打开一个网页
bro.get('https://www.baidu.com/')
# 回退
bro.back()
time.sleep(3)
# 前进
bro.forward()

time.sleep(5)
bro.quit()

selenium动作链与iframe的处理

bash 复制代码
"""
-selenium处理iframe
    -如果定位的标签存在于iframe标签之中,则必须使用switch_to.frame(id)
    -动作链(拖动) :from selenium.webdriver import ActionChains
        -实例化一个动作链对象:action =ActionChains(bro)
        -click_and_hold(div):长按且点击操作
        -move_by_offset(x,y)
        -perform()让动作链立即执行
        -action.release()释放动作链对象
"""
python 复制代码
import time
from selenium import webdriver
from selenium.webdriver import ActionChains

url = 'https://www.runoob.com/try/try.php?filename=jqueryui-api-droppable'

# 调用Chrome浏览器打开网页
bro = webdriver.Chrome()
bro.get(url)

# 如果定位的标签是存在于iframe标签之中的则必须通过如下操作再进行标签定位
bro.switch_to.frame('iframeResult')  # iframeResult为iframe标签的id

div = bro.find_element(by='id', value='draggable')

# 动作链
action = ActionChains(bro)
# 点击长按指定的标签
action.click_and_hold(div)

for i in range(5):
    action.move_by_offset(50, 0).perform()
    time.sleep(1)
# 释放动作链
action.release().perform()
print("程序运行完毕!")
time.sleep(3)
bro.quit()

selenium无可视化界面与反检测实现

python 复制代码
from time import sleep
from selenium import webdriver
# 实现无可视化界面
from selenium.webdriver.chrome.options import Options

# 实现无可视化界面的操作,让selenium规避被检测
chrome_options = Options()
chrome_options.add_argument('--headless')
chrome_options.add_argument('--disable-gpu')
# 实现规避检测
chrome_options.add_experimental_option('excludeSwitches', ['enable-automation'])

# 无可视化界面
bro = webdriver.Chrome(options=chrome_options)
bro.get('https://www.baidu.com')
print(bro.page_source)
sleep(2)
bro.quit()
相关推荐
Ting丶丶几秒前
安卓应用安装过程学习
android·学习·安全·web安全·网络安全
被猫枕的咸鱼几秒前
项目学习:仿b站的视频网站项目03-注册功能
学习
檀越剑指大厂5 分钟前
【Python系列】 Base64 编码:使用`base64`模块
开发语言·python
小火炉Q15 分钟前
02 python基础 python解释器安装
人工智能·python·神经网络·机器学习·网络安全·自然语言处理
@小博的博客20 分钟前
C++初阶学习第十三弹——容器适配器和优先级队列的概念
开发语言·数据结构·c++·学习
Liknana28 分钟前
动态渲染页面爬取
python
凤枭香36 分钟前
Python Scikit-learn简介
开发语言·python·机器学习·scikit-learn
人生!?39 分钟前
爬虫实战:采集知乎XXX话题数据
爬虫·python
数据岛41 分钟前
sklearn中常用数据集简介
人工智能·python·sklearn
微蓝课堂1 小时前
【微蓝课堂】机器人编程|树莓派系列|13-从零开始编写TM1637驱动程序
笔记·python·青少年编程·机器人