爬虫抓取网站数据

Fiddler

配置fiddler工具结合浏览器插件

配置fiddler

Tools--Options

抓包技巧

  • 谷歌浏览器开启无痕浏览,使用SwitchyOmega配置好代理端口

  • Ctrl + x 清理所有请求记录,可以删除指定不需要日志方便观察

  • 设置按请求顺序 观察cookie,观察请求hesder cookie和row返回结果

SwitchyOmega

google 插件 自己安装SwitchyOmega

配置

开启

工具

自己下载吧

https://download.csdn.net/download/qq_27229113/89219771

Js加密

如果Fiddler发现token或者加密串没有来源,那就是js加密的,如何查看加密方式呢

相关推荐
cipher6 天前
crawl4ai:AI时代的数据采集利器——从入门到实战
后端·爬虫·python
深蓝电商API6 天前
结构化数据提取:XPath vs CSS 选择器对比
爬虫·python
易辰君7 天前
【Python爬虫实战】正则:中文匹配与贪婪非贪婪模式详解
开发语言·爬虫·python
深蓝电商API7 天前
爬虫增量更新:基于时间戳与哈希去重
爬虫·python
电商API_180079052477 天前
京东商品评论API接口封装的心路历程
服务器·开发语言·爬虫·数据分析·php
袁袁袁袁满7 天前
Haystack与亮数据MCP工具结合实现自动化爬虫
爬虫·python·网络爬虫·数据采集·爬虫实战·视频爬虫·特推爬虫
深蓝电商API7 天前
Redis 作为爬虫去重与任务队列实战
爬虫·python
IP搭子来一个7 天前
爬虫使用代理IP全解析:原理、类型与实战指南
爬虫·网络协议·tcp/ip
谦虚的酷猫7 天前
SpiderDemo部分题目分析
javascript·网络爬虫
iFeng的小屋7 天前
【2026最新xhs爬虫】用Python批量爬取关键词笔记,异步下载高清图片!
笔记·爬虫·python