爬虫利器SpiderTools谷歌插件教程v1.0.0!!!web端JavaScript环境检测!!!

SpiderTools谷歌插件教程v1.0.0

补环境工具推荐:爬虫补环境利器webEnv

一、SpiderTools简介

SpiderTools主要用于检测和监控网页的JavaScript运行环境。该插件可以帮助开发者更好地查看网页运行环境,特别是在处理复杂的前端环境时。并且可以配置不同环境的属性、方法检测,日志显示还会用颜色做出区分,目前该插件只具有环境检测功能,后期打算加上hook、websocket以及一些简单的解混肴工具,之前在一些爬虫案例上也使用过该插件,目前效果良好:

爬虫瑞数6案例中文期刊:https://blog.csdn.net/randy521520/article/details/146093864

web逆向伪瑞数案例宝武资源有限公司:https://blog.csdn.net/randy521520/article/details/145686852

爬虫Incapsula reese84加密案例Etihad航空:https://blog.csdn.net/randy521520/article/details/146021845

二、下载通道

手机访问:https://pan.quark.cn/s/fe38ba821a2a,保存网盘下载即可。制作维护不易,望各位私下分享时分享网盘链接;搭配[webEnv补环境工具](https://blog.csdn.net/randy521520/article/details/147014083)效果更好。

三、插件介绍

1.配置页:目前的配置页具有windows、location、document、storage等配置,配置页会显示出每个对象可配置的属性和函数,还有每个对象的介绍,还会显示哪些属性、函数不可配置吗,目前可配置大部分对象,默认勾选了大部分的环境,如有环境不在该配置页中,可在评论区评论

2.由于目前功能比较少,目前只有开启环境代理开关、日志开关、配置页跳转,只有同时开启代理开关、日志开关控制台才会有日志输出

四、插件使用

1.基本使用就是开启代理开关、日志开关,就可以自动输出该网页的运行环境,以瑞数5.5网站:https://www.ouyeel.com/search-ng/queryResource/index为例,该网站爬虫教程:https://blog.csdn.net/randy521520/article/details/145338515

2.通过使用hookProxyProp.push(prop),可以hook对象属性

3.通过使用hookProxyArg.push(arg),可以hook函数的参数

4.hookProxyProp、hookProxyArg可以在任何时候的断点中使用,都会对之后的日志生效,不过这是针对所有对象,只能简单的做个hook,在动态调试代码时会很有用

五、工具函数使用

由于该插件刚开发,提供的工具函数只有copyObj,用于复制对象中的属性,后续有需求也会添加其他工具函数,有觉得在爬虫中麻烦的操作,可以在文章下评论,如果能用工具函数解决,会维护工具函数;当然在插件使用的过程中,有bug、有环境校验不准确的,都可以在文章下评论

相关推荐
子竹聆风10 小时前
Feapder框架UpdateItem使用技巧:如何优雅地实现"只更新有值字段"
爬虫
吴秋霖4 天前
主流反爬虫、反作弊防护与风控对抗手段
爬虫·算法·反爬虫技术
hui函数4 天前
scrapy框架-day02
后端·爬虫·python·scrapy
用户051610461674 天前
爬虫 API 技术全解析:从原理到实战的高效数据采集指南
爬虫·api
xiaoxiongip6666 天前
动态ip适合挂什么项目
网络·爬虫·python·网络协议·tcp/ip·ip
q567315236 天前
自动化拨号爬虫体系:虚拟机集群部署与增量管理
运维·爬虫·网络协议·自动化
电商API_180079052477 天前
淘宝商品视频批量自动化获取的常见渠道分享
java·爬虫·自动化·网络爬虫·音视频
果壳~7 天前
【Python】爬虫html提取内容基础,bs4
爬虫·python·html
jay神7 天前
基于Python的商品爬取与可视化系统
爬虫·python·数据分析·毕业设计·可视化系统
华科云商xiao徐8 天前
如何在C语言环境中借助Linux库构建高效网络爬虫
爬虫·数据挖掘·数据分析