7.29爬虫修复

1、加密算法sha、与时间加密。f12前端页面,所有文件中查询到指定字段。

2、加锁维护token或jwt之类的凭证,双if嵌套判断

3、熟悉公司整体项目框架,前端、nginx服务器,后端服务器

4、scrapy的爬虫过滤,注意重复url在srcapy.Request方法里面会过滤掉,重复字段的请求要允许过滤。

5、pymysql的异步修改、插入会产生链接问题,推荐使用DButl的连接池进行配置pymysql。

相关推荐
张小凡vip11 小时前
python--爬虫--经验积累的遇到的坑
开发语言·爬虫·python
刘广睿12 小时前
批量截图与长图拼接:自动化工作流的三种实现方案对比
爬虫·自动化·效率工具·python3.11
深蓝电商API20 小时前
asyncio 为什么能提高采集速度?
爬虫·asyncio
跨境生态圈2 天前
2026谷歌SEO快速排名深度解析:合规起量、避坑指南与实战落地策略
数据库·人工智能·爬虫·搜索引擎·chatgpt
傻啦嘿哟2 天前
某房产平台爬虫:爬取二手房源数据,分析各城市房价走势
爬虫
深蓝电商API2 天前
Celery 调度实践
爬虫·celery
数据狐(Datafox)2 天前
京东商品列表API接口解析(附 JSON 样例)
数据库·爬虫·json
深蓝电商API3 天前
爬虫日志系统如何设计?
爬虫
2601_962300473 天前
学习Python 爬虫路线
爬虫·python·学习路线·数据解析·反爬虫
傻啦嘿哟3 天前
某招聘平台爬虫:爬取招聘岗位数据,分析各城市薪资水平
开发语言·爬虫·python