初识爬虫1

学习路线:爬虫基础知识-requests模块-数据提取-selenium-反爬与反反爬-MongoDB数据库-scrapy-appium。

对应视频链接(百度网盘):正在整理中

爬虫基础知识:

1.爬虫的概念

总结:模拟浏览器,发送请求,获取响应。

2.爬虫的作用

数据采集

软件测试

抢票

网站上的投票

网络安全

3.爬虫的分类

数量

是否获取数据

url与数据的关系

4.爬虫的流程

url

发请求,获取响应

解析

5.http复习

http以及https的概念和区别

HTTPSH比HTTP更安全,但是性能更低

6.常见的请求头与响应头

请求头

host 域名

Connection 长连接

Upgrade-Insecure-Requests 升级为HTTPS请求

***User-Agent 用户代理,提供系统信息和浏览器信息

***Referer 页面跳转处,防盗链(图片/视频)

***Cookie 状态保持

响应头 Set-Cookie

7.状态码

所有的状态码都不可信,一切以是否从抓包得到的响应中获取到数据为准

network中抓包得到的源码才是判断依据,elements中的源码是渲染之后的源码

8.浏览器请求的过程

发送所有请求,进行渲染

爬虫

只发送指定请求,不会渲染

骨骼文件:html静态文件

肌肉文件:js/ajax请求

皮肤:css/font/图片

源代码 控制台 所有源代码 响应

Network:点刷新,可以看到响应

相关推荐
WeiLai11121 小时前
面试基础---订单系统设计深度解析:分库分表、延迟任务与订单状态机
java·分布式·后端·爬虫·面试·职场和发展·架构
q567315231 小时前
用PHP的Guzzle库编写的图片爬虫程序
android·开发语言·爬虫·http·golang·php
qq_332539455 小时前
如何绕过 reCAPTCHA V2/V3:Python、Selenium 与其他工具的实战指南
android·前端·爬虫·python·selenium·网络爬虫·爬山算法
小爬虫程序猿15 小时前
衣联网的商品列表页面结构是怎样的?
开发语言·爬虫·python
qq_3325394516 小时前
Akamai 与 AWS 风控分析与绕过技术探讨
爬虫·算法·安全·云计算·网络爬虫·aws
呆头呆脑~20 小时前
同盾v2 2025版 blackbox , wasm加解密,逆向协议算法生成,小盾安全
javascript·爬虫·python·算法·网络爬虫·wasm
q5673152320 小时前
利用axios库的爬虫程序如何使用HTTP
爬虫·网络协议·http
高兴高兴张高兴1 天前
张高兴的大模型开发实战:(一)使用 Selenium 进行网页爬虫
爬虫·selenium·测试工具
HerrFu2 天前
可狱可囚的爬虫系列课程 17:lxml模块的使用
爬虫·python
小白学大数据2 天前
Fuel 爬虫:Scala 中的图片数据采集与分析
开发语言·爬虫·scala