宝塔UA爬虫黑名单

宝塔UA爬虫黑名单

宝塔waf防火墙 导入即可

复制代码
Go-http-client
Python
Java
Python-urllib
Alexa Toolbar
hubspot
my-tiny-bot
eiki
MegaIndex.ru
ImagesiftBot
DuckDuckGo-Favicons-Bot
InfoTigerBot
JikeSpider
Ezooms
serpstatbot
BLEXBot
Html5plus
heritrix
DigExt
YYSpider
lightDeckReports Bot
jaunty
oBot
ZmEu
Swiftbot
Microsoft URL Control
ApacheBench
UniversalFeedParser
Feedly
Barkrowler
CoolpadWebkit
CrawlDaddy
AskTbFXTV
Indy Library
FeedDemon
coccocbot
intelx.io
ds-robot
MauiBot
ExtLinksBot
webmeup
Konturbot
VelenPublicWebCrawler
Amazonbot
ZoominfoBot
DotBot
MJ12bot
SemrushBot
AhrefsBot
CCBot
Claude
ClaudeBot
GPTBot

如果影响采集 可以移除下面的

复制代码
Java
Python
Python-urllib
Go-http-client
相关推荐
TomEval14 分钟前
【测AI】第05篇:Python 爬虫进阶 —— 动态页面爬取与 Scrapy 框架
人工智能·爬虫·python·scrapy·自动化
老王生涯21 小时前
针对cloudflare防护的爬虫策略——CDP
爬虫·cloudflare·cdp·反爬
禹凕1 天前
机器学习之数据清洗(Machine Learning about Data Cleaning)
人工智能·爬虫·python·机器学习·数据挖掘
数据狐(Datafox)1 天前
淘宝商品详情API实战:多语言代购商城自动同步数据完整方案
开发语言·前端·数据库·爬虫·json
梅孔立8 天前
Fiddler 工具安装抓包 教程 https
爬虫
feasibility.8 天前
MediaCrawler媒体采集平台安装与使用
爬虫·抖音·小红书·微博·bili
Patrick在香港9 天前
Claude 工具调用返回空:8 次失败里只有 1 次状态码不对,其余全带 200
爬虫·python·api·claude·香港
小静AI工程实验室10 天前
Python 爬虫中文乱码排查:严格解码、UTF-8 BOM 与 JSON 转义的 12 项实验
字符编码·爬虫·python
咖啡星人k10 天前
从自建爬虫到托管工具:数据采集选型对照表
爬虫·数据采集·mcp
电商API_1800790524711 天前
拍照找同款是怎么实现的?淘宝以图搜图接口 item_search_img 对接实战
大数据·爬虫·数据挖掘·数据分析·代采api