宝塔UA爬虫黑名单

宝塔UA爬虫黑名单

宝塔waf防火墙 导入即可

复制代码
Go-http-client
Python
Java
Python-urllib
Alexa Toolbar
hubspot
my-tiny-bot
eiki
MegaIndex.ru
ImagesiftBot
DuckDuckGo-Favicons-Bot
InfoTigerBot
JikeSpider
Ezooms
serpstatbot
BLEXBot
Html5plus
heritrix
DigExt
YYSpider
lightDeckReports Bot
jaunty
oBot
ZmEu
Swiftbot
Microsoft URL Control
ApacheBench
UniversalFeedParser
Feedly
Barkrowler
CoolpadWebkit
CrawlDaddy
AskTbFXTV
Indy Library
FeedDemon
coccocbot
intelx.io
ds-robot
MauiBot
ExtLinksBot
webmeup
Konturbot
VelenPublicWebCrawler
Amazonbot
ZoominfoBot
DotBot
MJ12bot
SemrushBot
AhrefsBot
CCBot
Claude
ClaudeBot
GPTBot

如果影响采集 可以移除下面的

复制代码
Java
Python
Python-urllib
Go-http-client
相关推荐
亿牛云爬虫专家4 小时前
聊聊数据的“冷热分离“:如何对历史爬虫数据进行合理的归档与压缩存储?
爬虫·爬虫代理·架构设计·隧道代理·大数据处理·压缩存储·数据分层存放
袁袁袁袁满5 小时前
Python爬虫实战:利用巨量IP获取跨境电商数据
爬虫·python·网络爬虫·爬虫实战·跨境电商·电商爬虫
拿本唠嗑AI研究6 小时前
现代前端架构爬虫指南:从静态页面到 React/Vue 单页应用
前端·爬虫·架构
一个处女座的程序猿1 天前
Crawler之Tool:MediaCrawler的简介、安装和使用方法、案例应用之详细攻略
爬虫·mediacrawler
深蓝电商API1 天前
Hook Canvas 获取浏览器指纹
爬虫·hook canvas
深蓝电商API1 天前
Hook Crypto API 获取加密参数
爬虫·hook crypto api
瓦学妹2 天前
Wikimon Scraper:用 Python 构建数据爬虫
开发语言·爬虫·python
小白学大数据3 天前
长周期爬虫的数据一致性:断点续爬 + 事务回滚保障采集质量
开发语言·爬虫·测试工具
跨境旺仔小拳头3 天前
Wikimon Scraper:用 Python 构建数据爬虫
数据库·爬虫·python
鬼手点金3 天前
Scrapy 网络爬虫框架
爬虫·python·scrapy·ajax·html·json·requsts