学习常见的反爬虫手段,如验证码、限制访问频率等

  1. 验证码(CAPTCHA):用于识别机器人和自动化程序,可以通过以下方式实现:

    from PIL import Image
    import pytesseract

    读取验证码图片

    image = Image.open('captcha.png')

    使用pytesseract库进行验证码识别

    text = pytesseract.image_to_string(image)
    print(text)

  2. IP限制/访问频率限制:限制同一个IP地址或者同一个用户在一定时间内的请求次数,可以通过以下方式实现:

    import time

    限制每分钟最多5次请求

    MAX_REQUESTS_PER_MINUTE = 5

    获取当前时间戳

    current_time = time.time()

    判断该IP地址或用户在一分钟内的请求次数是否超过限制

    if redis_client.get(ip_address_or_user):
    num_requests = int(redis_client.get(ip_address_or_user))
    if num_requests >= MAX_REQUESTS_PER_MINUTE:
    return '请求超过限制'
    else:
    redis_client.set(ip_address_or_user, num_requests + 1, ex=60)
    else:
    redis_client.set(ip_address_or_user, 1, ex=60)

  3. User-Agent检测:判断请求中的User-Agent头部信息是否符合正常浏览器的标准,可以使用以下代码示例:

    import requests

    发起HTTP请求时设置User-Agent头部信息

    headers = {
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64) AppleWebkit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.82 Safari/537.36'
    }

    发起请求

    response = requests.get(url, headers=headers)

  4. 动态加载数据:一些网站会使用JavaScript动态加载数据,可以使用Selenium或者Pyppeteer等自动化工具模拟用户操作来获取数据。示例代码如下:

    from selenium import webdriver

    使用Chrome浏览器驱动

    driver = webdriver.Chrome()

    打开网页

    driver.get(url)

    等待动态加载完成

    time.sleep(5)

    获取动态加载的数据

    data = driver.page_source

    关闭浏览器驱动

    driver.quit()

需要注意,使用反爬手段要遵守网站的规则和法律法规,不得进行非法活动。

本文由mdnice多平台发布

相关推荐
java1234_小锋16 分钟前
Scikit-learn Python机器学习 - 分类算法 - 线性模型 逻辑回归
python·机器学习·scikit-learn
倔强的石头_35 分钟前
你的 Python 为什么“优雅地慢”?——读《极速Python:高性能编码、计算与数据分析》
python
程序猿 小项目大搞头42 分钟前
视频加水印,推荐使用运营大管家-视频批量加水印软件
python
Adorable老犀牛1 小时前
可遇不可求的自动化运维工具 | 2 | 实施阶段一:基础准备
运维·git·vscode·python·node.js·自动化
xchenhao2 小时前
SciKit-Learn 全面分析 digits 手写数据集
python·机器学习·分类·数据集·scikit-learn·svm·手写
胡耀超2 小时前
7、Matplotlib、Seaborn、Plotly数据可视化与探索性分析(探索性数据分析(EDA)方法论)
python·信息可视化·plotly·数据挖掘·数据分析·matplotlib·seaborn
tangweiguo030519872 小时前
Django REST Framework 构建安卓应用后端API:从开发到部署的完整实战指南
服务器·后端·python·django
Dfreedom.2 小时前
在Windows上搭建GPU版本PyTorch运行环境的详细步骤
c++·人工智能·pytorch·python·深度学习
兴科Sinco3 小时前
[leetcode 1]给定一个整数数组 nums 和一个整数目标值 target,请你在该数组中找出和为目标值 target 的那两个整数[力扣]
python·算法·leetcode
程序员奈斯3 小时前
Python深度学习:NumPy数组库
python·深度学习·numpy