初始爬虫10

1. selenium执行js

因为selenium缺少下拉页面的操作,需要js触发式请求:driver.execute_scripts(js)

cpp 复制代码
# -*- coding: utf-8 -*-
from selenium import webdriver
import time
from selenium.webdriver.common.by import By

url = 'https://jn.lianjia.com/'

driver = webdriver.Chrome()

driver.get(url)
# 滚动条的拖动
js = 'scrollTo(0,500)'
# 执行js
driver.execute_script(js)

el_button = driver.find_element(By.XPATH, '/html/body/div[6]/div/div[1]/p/a')
# 使用 JavaScript 点击该按钮,防止被其他元素挡住
driver.execute_script("arguments[0].click();", el_button)

time.sleep(5)
driver.quit()

2.selenium页面等待(元素加载完)

2.1强制等待

常用的方法:time.sleep()

2.2隐式等待

最常用的方法,一般使用这个:

● 隐式等待针对的是元素定位,隐式等待设置了一个时间,在一段时间内判断元素是否定位成功,如果完成了,就进行下一步

● 在设置的时间内没有定位成功,则会报超时加载

python 复制代码
# -*- coding: utf-8 -*-
from selenium import webdriver
from selenium.webdriver.common.by import By

url = 'http://www.baidu.com'

driver = webdriver.Chrome()
# 设置位置之后的所有元素定位操作都有最大等待时间10秒,在10秒内会定期进行元素定位,超过设置时间之后将会报错
driver.implicitly_wait(10)

driver.get(url)
el = driver.find_element(By.XPATH,'//*[@id="lg"]/map/area')
print(el)

2.3显示等待

爬虫中不用,一般用于软件测试中,如果学爬虫路线可以只是简单了解一下

python 复制代码
from selenium import webdriver
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
from selenium.webdriver.common.by import By

# 创建 Chrome 浏览器驱动实例
driver = webdriver.Chrome()

# 打开百度首页
driver.get('https://www.baidu.com')

# 显式等待,等待 '好123' 链接出现
wait = WebDriverWait(driver, 20, 0.5)
wait.until(EC.presence_of_element_located((By.LINK_TEXT, '好123')))

# 使用新的方式查找元素
element = driver.find_element(By.LINK_TEXT, '好123')

# 打印 href 属性
print(element.get_attribute('href'))

# 关闭浏览器
driver.quit()

3.手动实现页面等待

通用解决页面等待的问题:

原理:

  1. 利用强制等待和显式等待的思路来手动实现

  2. 不停的判断或有次数限制的判断某一个标签对象是否加载完毕(是否存在)
    一个简单的淘宝翻页处理:

python 复制代码
import time

from selenium import webdriver
from selenium.webdriver.common.by import By

driver = webdriver.Chrome()

driver.get('https://www.taobao.com')
time.sleep(2)

# i = 0
# while True:
for i in range(10):
    i += 1
    try:
        time.sleep(3)
        element = driver.find_element(By.XPATH, '//div[@class="shop-inner"]/h3[' + str(i) + ']/a')
        print(element.get_attribute('href'))
        break
    except:
        js = 'window.scrollTo(0, {})'.format(i * 500)  # js语句
        driver.execute_script(js)  # 执行js的方法
        # driver.quit()

4.配置对象

使用selenium开启无界面模式,使用代理ip,更换user-agent。

4.1无界面模式

python 复制代码
# -*- coding: utf-8 -*-
from selenium import webdriver
url = 'https://www.baidu.com'

# 创建配置对象
opt = webdriver.ChromeOptions()

# 添加配置参数,设置浏览器为无头模式
opt.add_argument('--headless')
opt.add_argument('--disable-gpu')

# 创建浏览器对象的时候添加配置对象
driver = webdriver.Chrome(options=opt)

driver.get(url)

driver.save_screenshot('baidu_到此一游1.png')

4.2代理ip和user-agent

cpp 复制代码
from selenium import webdriver
url = 'https://www.baidu.com'

# 创建配置对象
opt = webdriver.ChromeOptions()

# 添加配置参数,更换ip代理,必须重新启动浏览器
# opt.add_argument('--proxy-server=http://47.119.164.33:8081')

# 更换user-agent
opt.add_argument('--user-agent=Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.0; Maxthon; .NET CLR 1.1.4322)')

# 创建浏览器对象的时候添加配置对象
driver = webdriver.Chrome(options=opt)
相关推荐
躺平的花卷37 分钟前
Python爬虫案例八:抓取597招聘网信息并用xlutils进行excel数据的保存
爬虫·excel
爱分享的码瑞哥1 小时前
Python爬虫中的IP封禁问题及其解决方案
爬虫·python·tcp/ip
不做超级小白3 小时前
工欲善其事,必先利其器;爬虫路上,我用抓包
爬虫
Smartdaili China3 小时前
如何在 Microsoft Edge 中设置代理: 快速而简单的方法
前端·爬虫·安全·microsoft·edge·社交·动态住宅代理
好看资源平台6 小时前
网络爬虫——综合实战项目:多平台房源信息采集与分析系统
爬虫·python
Tech Synapse19 小时前
Python网络爬虫实践案例:爬取猫眼电影Top100
开发语言·爬虫·python
数据小爬虫@20 小时前
利用Python爬虫获取淘宝店铺详情
开发语言·爬虫·python
B站计算机毕业设计超人1 天前
计算机毕业设计SparkStreaming+Kafka新能源汽车推荐系统 汽车数据分析可视化大屏 新能源汽车推荐系统 汽车爬虫 汽车大数据 机器学习
数据仓库·爬虫·python·数据分析·kafka·数据可视化·推荐算法
易辰君1 天前
【Python爬虫实战】深入解析 Scrapy 爬虫框架:高效抓取与实战搭建全指南
开发语言·爬虫·python
风动也无爱1 天前
Java的正则表达式和爬虫
java·爬虫·正则表达式