初识爬虫1

学习路线:爬虫基础知识-requests模块-数据提取-selenium-反爬与反反爬-MongoDB数据库-scrapy-appium。

对应视频链接(百度网盘):正在整理中

爬虫基础知识:

1.爬虫的概念

总结:模拟浏览器,发送请求,获取响应。

2.爬虫的作用

数据采集

软件测试

抢票

网站上的投票

网络安全

3.爬虫的分类

数量

是否获取数据

url与数据的关系

4.爬虫的流程

url

发请求,获取响应

解析

5.http复习

http以及https的概念和区别

HTTPSH比HTTP更安全,但是性能更低

6.常见的请求头与响应头

请求头

host 域名

Connection 长连接

Upgrade-Insecure-Requests 升级为HTTPS请求

***User-Agent 用户代理,提供系统信息和浏览器信息

***Referer 页面跳转处,防盗链(图片/视频)

***Cookie 状态保持

响应头 Set-Cookie

7.状态码

所有的状态码都不可信,一切以是否从抓包得到的响应中获取到数据为准

network中抓包得到的源码才是判断依据,elements中的源码是渲染之后的源码

8.浏览器请求的过程

发送所有请求,进行渲染

爬虫

只发送指定请求,不会渲染

骨骼文件:html静态文件

肌肉文件:js/ajax请求

皮肤:css/font/图片

源代码 控制台 所有源代码 响应

Network:点刷新,可以看到响应

相关推荐
爱隐身的官人5 小时前
爬虫基础学习-链接协议分析,熟悉相关函数
爬虫·学习
binbinaijishu8810 小时前
Python爬虫入门指南:从零开始的网络数据获取之旅
开发语言·爬虫·python·其他
眰恦ゞLYF12 小时前
TCP与HTTP协议以及爬虫
爬虫·网络协议·tcp协议·http协议
LCS-31219 小时前
Python爬虫实战: 爬虫常用到的技术及方案详解
开发语言·爬虫·python
电商数据girl1 天前
Python 爬虫获得淘宝商品详情 数据【淘宝商品API】
大数据·开发语言·人工智能·爬虫·python·json·php
傻啦嘿哟1 天前
Rust爬虫实战:用reqwest+select打造高效网页抓取工具
开发语言·爬虫·rust
杨荧1 天前
基于Python的农作物病虫害防治网站 Python+Django+Vue.js
大数据·前端·vue.js·爬虫·python
K哥爬虫2 天前
【验证码逆向专栏】某奇艺滑块验证码逆向分析
爬虫
K哥爬虫2 天前
【验证码逆向专栏】某手滑块逆向、风控分析
爬虫
一枚小小程序员哈2 天前
大数据、hadoop、爬虫、spark项目开发设计之基于数据挖掘的交通流量分析研究
大数据·hadoop·爬虫