宝塔UA爬虫黑名单

宝塔UA爬虫黑名单

宝塔waf防火墙 导入即可

复制代码
Go-http-client
Python
Java
Python-urllib
Alexa Toolbar
hubspot
my-tiny-bot
eiki
MegaIndex.ru
ImagesiftBot
DuckDuckGo-Favicons-Bot
InfoTigerBot
JikeSpider
Ezooms
serpstatbot
BLEXBot
Html5plus
heritrix
DigExt
YYSpider
lightDeckReports Bot
jaunty
oBot
ZmEu
Swiftbot
Microsoft URL Control
ApacheBench
UniversalFeedParser
Feedly
Barkrowler
CoolpadWebkit
CrawlDaddy
AskTbFXTV
Indy Library
FeedDemon
coccocbot
intelx.io
ds-robot
MauiBot
ExtLinksBot
webmeup
Konturbot
VelenPublicWebCrawler
Amazonbot
ZoominfoBot
DotBot
MJ12bot
SemrushBot
AhrefsBot
CCBot
Claude
ClaudeBot
GPTBot

如果影响采集 可以移除下面的

复制代码
Java
Python
Python-urllib
Go-http-client
相关推荐
Python私教7 小时前
Playwright MCP 用 a11y 树抓页面:比全量 DOM 省 token 的采集 Agent
爬虫
枫叶林FYL10 小时前
项目九:异步高性能爬虫与数据采集中枢 —— 基于 Crawl<sub>4</sub>AI 与 Playwright 的现代化数据采集平台 项目总览
爬虫·python·深度学习·wpf
上海云盾-小余13 小时前
恶意爬虫精准拦截:网站流量净化与资源守护方案
网络·爬虫·web安全
小白学大数据15 小时前
深度探索:Python 爬虫实现豆瓣音乐全站采集
开发语言·爬虫·python·数据分析
烟雨江南aabb15 小时前
Python第六弹:python爬虫篇:什么是爬虫
开发语言·爬虫·python
深蓝电商API19 小时前
分布式电商爬虫架构:Scrapy-Redis+消息队列的集群部署
分布式·爬虫·架构
WL_Aurora1 天前
Python爬虫实战(六):新发地蔬菜价格数据采集.
爬虫·python
盲敲代码的阿豪1 天前
Python 入门基础教程(爬虫前置版)
开发语言·爬虫·python
深蓝电商API1 天前
电商网站行为检测绕过:鼠标轨迹模拟 + 点击热区分析
爬虫
深蓝电商API2 天前
移动端APP抓包实战:Frida+SSL Pinning绕过的完整配置
爬虫