网络请求之urllib.parse的使用

urllib.parse的作用是解析url。

为什么要解析呢,我来举个例子。在百度图片里面搜一下历史人物,比如樱由罗:

点击百度一下 跳转到页面如下:

我们找到url分析一下看看:

url 复制代码
https://image.baidu.com/search/index?tn=baiduimage&ipn=r&ct=201326592&cl=2&lm=&st=-1&fm=index&fr=&hs=0&xthttps=111110&sf=1&fmq=&pv=&ic=0&nc=1&z=&se=&showtab=0&fb=0&width=&height=&face=0&istype=2&ie=utf-8&word=%E6%A8%B1%E7%94%B1%E7%BD%97

后面的参数:word=%E6%A8%B1%E7%94%B1%E7%BD%97 明显是汉字被编码了,因为爬虫就是要模拟浏览器发送请求给服务器,所以爬数据的时候就得根据url的实际情况进行编码,这就是urllib.parse的意义。

python 复制代码
# 引用urllib.parse
import urllib.parse
#定义url的参数,这里用字典,参数都是键值对
wd={"word":"樱由罗"}
res=urllib.parse.urlencode(wd)
print(res)  #word=%E6%A8%B1%E7%94%B1%E7%BD%97

#解碼操作
result=urllib.parse.unquote(res)
print(result) #樱由罗
相关推荐
2601_967979129 分钟前
“Python,就是新的 BASIC!”
python·编程语言·历史·basic·比较
青少儿编程课堂16 分钟前
蓝桥杯·全国青少年信息素养大赛·电子学会Python/C++考级:Dinic最大流解析
c++·python·算法·bfs·信息学竞赛
专注仿真1 小时前
基于 AFSIM 的智能体训练:多智能体强化学习篇 —— QTRAN 算法实战
开发语言·python·算法·php·强化学习·afsim智能体·仿真训练
2601_967987372 小时前
Python类变量和实例变量(类属性和实例属性)
python·类变量·实例变量·类属性·实例属性
CyrusYiVPP2 小时前
新用户第二周还剩几个?pandas做留存率cohort分析,数据分析实战第6期
人工智能·python
岁月宁静12 小时前
五、《从零手撸 Agent》 — 什么是 Agent:从“会聊天”到“会做事”,差的就是一个循环
python·agent
梯度下降者13 小时前
Python - 函数
python·高阶函数·可调用对象·functools·嵌套作用域
starzy199015 小时前
深入理解Scala隐式参数:上下文流转
开发语言·python·scala
wuyk55516 小时前
Spider-第16讲-线程池与竞态问题
大数据·爬虫·python·elasticsearch·搜索引擎
kyle~1 天前
FastAPI --- 将业务能力以 API 的形式提供给外部系统
python·fastapi·前后端