Python 中的 URL 解析与构建:urllib.parse 模块详解

前言

最近测试一个需求,入职需要进行音乐基础考试需求,简单说就是通过播放的音频回答填空区是什么音符,当然音频、答案等都是上传到oss的,上传oss后,自动拼一个url然后入库。本以为很顺利,可是到小程序访问的时候,访问不到,仔细排查,才知道是由于链接中包含中文导致的。有上千条数据,如何修改数据呢?这就体现出了python的强大快捷,urllib.parse 轻松帮你搞定。

urllib.parse

当涉及到 Python 中的 URL 解析和操作时,urllib.parse 模块提供了丰富的功能。可以使用这个模块来解析 URL、构建查询字符串、编码和解码 URL 等。

URL 解析

使用 urlparse 函数可以将 URL 字符串解析为各个组成部分,比如 scheme、netloc、path、params、query 和 fragment。以下是一个简单的示例:

python 复制代码
from urllib.parse import urlparse
​
url = "https://www.example.com/path?query=123"
parsed_url = urlparse(url)
​
print(parsed_url.scheme)  # https
print(parsed_url.netloc)  # www.example.com
print(parsed_url.path)    # /path
print(parsed_url.query)   # query=123

从输出结果,可以看出来scheme代表协议、netloc代表域名、path代表路径、query代表参数

构建 URL

使用 urlunparse 函数可以将 URL 的各个部分组合成完整的 URL 字符串。以下是一个简单的示例:

ini 复制代码
from urllib.parse import urlunparse
​
parts = ('https', 'www.example.com', '/path', '', 'query=123', '')
full_url = urlunparse(parts)
​
print(full_url)  # https://www.example.com/path?query=123

从输出结果可以看到,urlunparse可以组合出一个完整的url。

编码和解码

使用 quoteunquote 函数可以对 URL 进行编码和解码操作。这在处理 URL 中的特殊字符或非 ASCII 字符时非常有用。示例:

ini 复制代码
from urllib.parse import quote, unquote
​
original_string = "hello world, this is a test"
encoded_string = quote(original_string)
decoded_string = unquote(encoded_string)
​
print(encoded_string)  # hello%20world%2C%20this%20is%20a%20test
print(decoded_string)  # hello world, this is a test

从输出结果可以看到,quote用来编码字符串,unquote用来解码字符串

实战

知道基础使用后,现在我们处理前言中提到的问题

鉴于url比较简单,并没有参数,只有协议、域名、路径,这就很好解决了,看实现代码

ini 复制代码
def _urlparse(url: str):
    parse_url = urlparse(url)
    path = parse_url.path
    encoded_path = '/'.join(quote(segment) for segment in path.split('/'))
​
    new_url = f"{parse_url.scheme}://{parse_url.netloc}{encoded_path}"
    return new_url

使用 urlparse 函数解析原始 URL,然后提取出路径部分进行处理。对路径部分中的每个段落进行 URL 编码,并将它们拼接在一起,最后生成新的 URL,当然构建URL也可以使用上文提到的urlunparse函数,笔者这里使用了字符串拼接方法。最终脚本只需要增加连接数据库,进行更新操作即可。

最后

不到半小时就完成了脚本编写,并修改了所有数据,这也许就是python的便捷之处吧。当然,文中提到的只是 urllib.parse 模块中的一些常用函数,如果你遇到与笔者相同的问题,这些函数基本够用了,想要更加深入了解,推荐去看官方文档,更多功能可以根据自身场景需要进行探索和使用。

欢迎评论区留下你使用urllib.parse处理过的印象深刻的问题!

相关推荐
weixin_4024863410 小时前
小分子 pdb准化为sdf
python
橘子编程10 小时前
密码学完全指南:从基础到实战
java·python·密码学
蓝色的杯子10 小时前
Python面试30分钟突击掌握-LeetCode2-Strings
python
昵称为空C10 小时前
在复杂SpringBoot项目中基于hutool实现临时添加多数据源案例
spring boot·后端
ZC跨境爬虫10 小时前
海南大学交友平台开发实战 day9(头像上传存入 SQLite+BLOB 存储 + 前后端联调避坑全记录)
前端·数据库·python·sqlite
FreakStudio10 小时前
嘉立创开源:应该是全网MicroPython教程最多的开发板
python·单片机·嵌入式·大学生·面向对象·并行计算·电子diy
上天_去_做颗惺星 EVE_BLUE11 小时前
接口自动化测试全流程:pytest 用例收集、并行执行、Allure 报告合并与上传
python·pytest
chushiyunen11 小时前
python fastapi使用、uvicorn
开发语言·python·fastapi
金融数据出海11 小时前
韩国股票 API 对接指南 Seoul&KOSDAQ
后端
geovindu11 小时前
go: Simple Factory Pattern
开发语言·后端·设计模式·golang·简单工厂模式