Python爬虫01

requests模块

文档

  • 安装
python 复制代码
pip/pip3  install  requests
  • response.text 和 response.content的区别
python 复制代码
1.response.text 等价于 response.content.decode("推测出的编码字符集")

response.text
类型:str
编码类型:requests模块自动根据Http头部对响应的编码(response.encoding)作出有根据的推测,推测的文本编码

response.content
类型:bytes
编码类型:没有指定

2.通过对response.content进行decode,来解决中文乱码
response.content.decode() 默认utf-8
response.content.decode("gbk")
常见的编码集
utf-8
gbk
gb2312
ascii
iso-8859-1 

3.response响应对象的其他常用属性或方法
response.url 响应url(有时候响应url和请求url不一致)
response.status_code 响应状态码
response.request.headers 响应对应的请求头
response.headers 响应头
response.request._cookies 响应对应请求的cookie;返回cookieJar类型
response.cookies 响应cookie(经过set-cookie动作;返回cookieJar类型)
response.json() 自动将json字符串类型的响应内容转换为python对象
  • headers参数的使用
python 复制代码
requests.get(url, headers=headers)

 - headers 参数接收字典形式的请求头
 - 请求头字段名作为key,字段对应的值作为value
  • 发送带参数的请求
python 复制代码
 - 直接URL上拼接
 https://www.baidu.com/s?wd=python
 - 构建字典,交给params
 kw = {"wd":"python"}
 requests.get(url, headers=headers, paramas=kw)
 
  • headers中携带cookie
python 复制代码
requests.get(url, headers=headers)
  • cookies参数的使用
python 复制代码
保持会话
# 构建cookie字典
requests.get(url, cookies=cookies)
  • cookieJar的转换方法
python 复制代码
1.转换方法
cookies_dict = resquests.utils.dict_from_cookiejar(response.cookies)
2.其中response.cookies返回的就是cookiejar类型的对象
3.requests.utils.dict_from_cookiejar 函数返回cookies字典 
  • 超时时间timeout的使用
python 复制代码
response = requests.get(url, timeout=3)
  • 代理ip参数proxies的使用
python 复制代码
response = requests.get(url, proxies=proxies)
proxies的形式:字典
eg:
proxies = {
	"http":"http://xxxx",
	"https":"https://xxx"
}
  • 使用verify参数忽略CA证书
python 复制代码
verify=False
verify 参数能忽略CA证书的认证

import requests
url = "xxxx"
response = requests.get(url, verify=False) 
  • requests发送post请求
python 复制代码
response = requests.post(url, data)
data 参数接收一个字典 
  • requests.session进行状态保持
python 复制代码
requests.session的作用
  自动处理cookie,即下一次请求会带上前一次的cookie
requests.session的应用场景
  自动处理连续的多次请求过程中产生的cookie
requests.session的使用方法
  session = requests.session()  #实例化session对象
  response = session.get(url, headers, ...)
  response = session.post(url, data, ...)
  session对象发送get或者post请求的参数,与requests模块发送请求的参数完全一致 
相关推荐
子兮曰6 小时前
OpenClaw架构揭秘:178k stars的个人AI助手如何用Gateway模式统一控制12+通讯频道
前端·javascript·github
冷雨夜中漫步6 小时前
Python快速入门(6)——for/if/while语句
开发语言·经验分享·笔记·python
郝学胜-神的一滴6 小时前
深入解析Python字典的继承关系:从abc模块看设计之美
网络·数据结构·python·程序人生
百锦再6 小时前
Reactive编程入门:Project Reactor 深度指南
前端·javascript·python·react.js·django·前端框架·reactjs
百锦再6 小时前
React编程高级主题:测试代码
android·前端·javascript·react.js·前端框架·reactjs
颜酱8 小时前
图结构完全解析:从基础概念到遍历实现
javascript·后端·算法
喵手8 小时前
Python爬虫实战:旅游数据采集实战 - 携程&去哪儿酒店机票价格监控完整方案(附CSV导出 + SQLite持久化存储)!
爬虫·python·爬虫实战·零基础python爬虫教学·采集结果csv导出·旅游数据采集·携程/去哪儿酒店机票价格监控
2501_944934738 小时前
高职大数据技术专业,CDA和Python认证优先考哪个?
大数据·开发语言·python
helloworldandy8 小时前
使用Pandas进行数据分析:从数据清洗到可视化
jvm·数据库·python
小迷糊的学习记录8 小时前
Vuex 与 pinia
前端·javascript·vue.js