爬虫抓取网站数据

Fiddler

配置fiddler工具结合浏览器插件

配置fiddler

Tools--Options

抓包技巧

  • 谷歌浏览器开启无痕浏览,使用SwitchyOmega配置好代理端口

  • Ctrl + x 清理所有请求记录,可以删除指定不需要日志方便观察

  • 设置按请求顺序 观察cookie,观察请求hesder cookie和row返回结果

SwitchyOmega

google 插件 自己安装SwitchyOmega

配置

开启

工具

自己下载吧

https://download.csdn.net/download/qq_27229113/89219771

Js加密

如果Fiddler发现token或者加密串没有来源,那就是js加密的,如何查看加密方式呢

相关推荐
梅雅达编程笔记1 小时前
04-Python CSV数据保存与翻页抓取
开发语言·爬虫·python·pandas·数据采集·csv
梅雅达编程笔记3 小时前
03_网页表格数据抓取
爬虫·python·beautifulsoup·pandas·数据采集
傻啦嘿哟3 小时前
爬虫代理IP池从0到1:构建高可用代理池,彻底解决IP被封问题
网络·爬虫·tcp/ip
szial4 小时前
网络爬虫与 CDP 实战(一):网页数据到底在哪?从 HTTP 到分页采集
网络·爬虫·python·网络爬虫
深蓝电商API4 小时前
反检测浏览器(比特/AdsPower)原理剖析与自建替代方案
爬虫·反检测浏览器
深蓝电商API1 天前
Puppeteer vs Playwright:多维度压测后的选型建议
爬虫·puppeteer·playwright
压码路1 天前
BOSS直聘网页端研究【2026年9月】
爬虫·语言模型·boss直聘
深蓝电商API1 天前
用 CDP 协议直连浏览器:绕过框架做更底层的控制
爬虫·cdp
深蓝电商API2 天前
从元素定位到等待策略:写出稳定不出错的自动化脚本
爬虫
禹凕2 天前
机器学习之Selenium(Machina Learning about Selenium)
爬虫·python·selenium·测试工具·机器学习