一文入门 request请求库使用

requests 库是一个非常流行的 Python HTTP 请求库,简化了与 web 服务器的交互。它提供了简洁的 API 来发送 HTTP 请求和处理响应。

常用来处理爬虫过程中对对网络响应的包装和解析

一,安装requests包

在pycharm 的终端上通过指令

pip install requests 安装

python 复制代码
pip install requests 

二,使用request 解析网络数据

一,导入模块

python 复制代码
import requsets

二,向网站发起 get 请求

1.方法requests.get()

2.状态码为200,则请求成功

3.requests 有三种解码形式

text 以文本的形式返回响应信息

content 可以通过指定的解码格式来解码

json()不仅对响应解码,还对其进行反序列化

python 复制代码
url = f'https://tieba.baidu.com'

res = requests.get(url)

print(res)  # 状态码为200,则请求成功

res.content.decode(encoding='gbk')# 指定解码格式

print(res.text)# 返回请求网站的文本信息
con = res.json()
for data in con['data']['forum_info']:
    print(data)

4.get 方法的参数

params ,**kwargs

python 复制代码
params = {
    'pn': 1,
    'size': 20
}
通过定义params,可以向服务器请求具体的位置和内容
例如:请求第十页的20个内容
python 复制代码
user-agent 发起请求的工具 需要伪装,不然会被服务器识别到,影响爬取成功率
在requests.get()中,通过指定headers 来伪装造假请求
伪造请求头
headers = {
     'user-agent': "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/126.0.0.0 Safari/537.36"}

 res = requests.get(url, headers=headers, params=params)

 for k, v in res.json().items():
     print(k, v)

三,发起post请求

1.发送data数据

python 复制代码
# 要发送的数据(表单格式)
data = {
    'username': 'user1',
    'password': 'pass123'
}

# 发送 POST 请求
response = requests.post('https://example.com/login', data=data)

# 检查请求是否成功
if response.status_code == 200:
    print('Response Text:', response.text)
else:
    print('Failed to send data:', response.status_code)

2.发送json数据

python 复制代码
# 要发送的数据(JSON 格式)
data = {
    'name': 'Alice',
    'age': 30
}

# 发送 POST 请求
response = requests.post('https://example.com/api', json=data)

# 检查请求是否成功
if response.status_code == 200:
    print('Response JSON:', response.json())
else:
    print('Failed to send data:', response.status_code)

根据网站的请求类型的不同,使用不同的数据发送

相关推荐
LXS_3572 小时前
Day17 C++提高 之 类模板案例
开发语言·c++·笔记·算法·学习方法
leo__5202 小时前
基于MATLAB实现的鲁棒性音频数字水印系统
开发语言·matlab·音视频
2301_789015622 小时前
C++:多态(面向对象的主要手段之一)
c语言·开发语言·c++·多态
小年糕是糕手2 小时前
【C++】string类(一)
linux·开发语言·数据结构·c++·算法·leetcode·改行学it
sali-tec2 小时前
C# 基于halcon的视觉工作流-章70 深度学习-Deep OCR
开发语言·人工智能·深度学习·算法·计算机视觉·c#·ocr
晚霞的不甘2 小时前
C语言利用数组处理批量数据详解
android·c语言·开发语言
_OP_CHEN2 小时前
【从零开始的Qt开发指南】(十二)Qt 布局管理器终极指南:5 大布局 + 实战案例,搞定所有界面排版需求
开发语言·qt·前端开发·qt控件·布局管理器·gui开发
巴拉巴拉~~2 小时前
Flutter 通用列表项组件 CommonListItemWidget:全场景布局 + 交互增强
flutter·php·交互
ForteScarlet2 小时前
Kotlin 2.3.0 现已发布!又有什么好东西?
android·开发语言·后端·ios·kotlin
武藤一雄2 小时前
C#中常见集合都有哪些?
开发语言·微软·c#·.net·.netcore