宝塔UA爬虫黑名单

宝塔UA爬虫黑名单

宝塔waf防火墙 导入即可

复制代码
Go-http-client
Python
Java
Python-urllib
Alexa Toolbar
hubspot
my-tiny-bot
eiki
MegaIndex.ru
ImagesiftBot
DuckDuckGo-Favicons-Bot
InfoTigerBot
JikeSpider
Ezooms
serpstatbot
BLEXBot
Html5plus
heritrix
DigExt
YYSpider
lightDeckReports Bot
jaunty
oBot
ZmEu
Swiftbot
Microsoft URL Control
ApacheBench
UniversalFeedParser
Feedly
Barkrowler
CoolpadWebkit
CrawlDaddy
AskTbFXTV
Indy Library
FeedDemon
coccocbot
intelx.io
ds-robot
MauiBot
ExtLinksBot
webmeup
Konturbot
VelenPublicWebCrawler
Amazonbot
ZoominfoBot
DotBot
MJ12bot
SemrushBot
AhrefsBot
CCBot
Claude
ClaudeBot
GPTBot

如果影响采集 可以移除下面的

复制代码
Java
Python
Python-urllib
Go-http-client
相关推荐
wuyk55517 小时前
Spider-第07讲-JSON接口与正则提取
爬虫·python·json
feasibility.19 小时前
一物降一物?AI逆向没有终局:REA拆App,BLA设套,LASIK清场
人工智能·爬虫·github·逆向·skill·rea
wuyk5553 天前
Spider-第03讲-HTTP速通与读懂响应
网络·爬虫·网络协议·http
xyzzklk9 天前
在Open-WebUI中提升向量化速度
网络·人工智能·爬虫·ai·语言模型·自然语言处理·安卓
严肃小白兔9 天前
Cloudflare 开始区分 AI 爬虫与个人 Agent:网站访问控制应该怎样设计?
人工智能·爬虫
傻啦嘿哟12 天前
高德地图POI爬虫:爬取商户与景点数据,做LBS应用
爬虫
weixin1997010801612 天前
官方授权通道和灰色爬虫,做数据服务该选哪条路(附 python 源码)
c++·爬虫·python
正飞信息技术13 天前
llms.txt部署指南:给AI爬虫一张清晰的网站地图
人工智能·爬虫
NeoGressAI外贸数字化15 天前
外贸独立站robots.txt怎么写:6个AI爬虫放行规则
人工智能·爬虫
OnlineProxy15 天前
移动应用数据爬取:通过模拟器与流量嗅探对 API 进行逆向工程
爬虫·python·httpx