一键管控 AI 爬虫,腾讯 EdgeOne 基础 Bot 管理能力免费开放生成式 AI 对数据与内容的需求迅猛增长,开发者该如何管控 AI 爬虫,保障自身利益不受侵害?2月4日,腾讯云边缘安全加速平台 EdgeOne 正式向所有套餐用户(含免费版)开放“基础 Bot 管理”能力,包括 AI 爬虫处置、 人机校验页两大重点功能。 相比传统爬虫,AI 爬虫访问往往更隐蔽、规模更大,也更难被站点精确区分和管理。开发者为了防止 AI 无偿爬取使用原创内容、占用服务器带宽,往往陷入无休止的“打地鼠”游戏,封禁了一个旧爬虫,隔天又会出现数十个换了“马甲”的新爬虫。