Python 实现POST上行压缩上传可用HTTP库汇总

先重申核心原理:上行请求体压缩不是HTTP库自带功能 ,本质是你自己把body gzip压缩,带上 Content-Encoding: gzip 请求头,将压缩二进制作为请求体发送。

所有支持自定义请求body、自定义请求头的HTTP客户端都能实现,区别只是各个库传参名称不一样:

  • requests:data=
  • httpx:content=
  • aiohttp:data=
  • urllib:data=
  • pycurl:POSTFIELDS

下面分「同步库」「异步库」给出完整示例,统一复用gzip压缩函数。

通用压缩工具函数(所有示例共用)

python 复制代码
import gzip
from io import BytesIO

def gzip_compress(raw_bytes: bytes) -> bytes:
    buf = BytesIO()
    with gzip.GzipFile(fileobj=buf, mode="wb") as f:
        f.write(raw_bytes)
    return buf.getvalue()

一、标准库:urllib(无需额外安装,内置)

无需安装第三方包,适合环境受限不能装requests的场景

python 复制代码
import json
from urllib import request

url = "http://127.0.0.1:8000/api/upload"
payload = {"data": list(range(2000))}
raw = json.dumps(payload).encode("utf-8")
compressed_body = gzip_compress(raw)

headers = {
    "Content-Type": "application/json; charset=utf-8",
    "Content-Encoding": "gzip"
}

req = request.Request(url, data=compressed_body, headers=headers, method="POST")
with request.urlopen(req) as resp:
    print(resp.read().decode("utf-8"))

缺点:API简陋,不支持连接池、超时易用性差,生产一般不首选。

二、httpx(同步 + 异步,当前主流推荐)

新一代HTTP客户端,兼容requests风格,支持http1.1/http2

python 复制代码
import httpx
import json

url = "http://127.0.0.1:8000/api/upload"
payload = {"data": list(range(2000))}
raw = json.dumps(payload).encode("utf-8")
compressed_body = gzip_compress(raw)

headers = {
    "Content-Type": "application/json; charset=utf-8",
    "Content-Encoding": "gzip"
}

# 同步
with httpx.Client(timeout=10) as client:
    res = client.post(url, headers=headers, content=compressed_body)
    print(res.text)

# 异步版本
"""
import asyncio
async def run():
    async with httpx.AsyncClient(timeout=10) as client:
        res = await client.post(url, headers=headers, content=compressed_body)
        print(res.text)
asyncio.run(run())
"""

⚠️ httpx 传二进制body参数名是 content,不是data!

三、aiohttp(异步首选,高并发场景)

异步生态标准HTTP客户端,爬虫、异步微服务大量使用

python 复制代码
import aiohttp
import asyncio
import json

async def main():
    url = "http://127.0.0.1:8000/api/upload"
    payload = {"data": list(range(2000))}
    raw = json.dumps(payload).encode("utf-8")
    compressed_body = gzip_compress(raw)

    headers = {
        "Content-Type": "application/json; charset=utf-8",
        "Content-Encoding": "gzip"
    }
    async with aiohttp.ClientSession() as session:
        async with session.post(url, data=compressed_body, headers=headers) as resp:
            print(await resp.text())

asyncio.run(main())

四、pycurl(底层封装libcurl,高性能)

基于C库libcurl,吞吐性能极强,适合超高并发场景;缺点:Windows安装麻烦、API晦涩

python 复制代码
import pycurl
import json
from io import BytesIO

url = "http://127.0.0.1:8000/api/upload"
payload = {"data": list(range(2000))}
raw = json.dumps(payload).encode("utf-8")
compressed_body = gzip_compress(raw)

resp_buffer = BytesIO()
c = pycurl.Curl()
c.setopt(c.URL, url)
c.setopt(c.POST, 1)
c.setopt(c.POSTFIELDS, compressed_body)
c.setopt(c.WRITEDATA, resp_buffer)

headers = [
    "Content-Type: application/json; charset=utf-8",
    "Content-Encoding: gzip"
]
c.setopt(c.HTTPHEADER, headers)
c.perform()
c.close()

print(resp_buffer.getvalue().decode())

五、tornado.httpclient(Tornado框架内置异步客户端)

如果你项目本身使用Tornado Web框架,可以直接使用内置客户端,无需额外依赖

python 复制代码
import json
from tornado.httpclient import AsyncHTTPClient, HTTPRequest
import tornado.ioloop

async def fetch():
    url = "http://127.0.0.1:8000/api/upload"
    payload = {"data": list(range(2000))}
    raw = json.dumps(payload).encode("utf-8")
    compressed_body = gzip_compress(raw)

    req = HTTPRequest(
        url,
        method="POST",
        body=compressed_body,
        headers={
            "Content-Type": "application/json; charset=utf-8",
            "Content-Encoding": "gzip"
        }
    )
    client = AsyncHTTPClient()
    res = await client.fetch(req)
    print(res.body.decode())

tornado.ioloop.IOLoop.current().run_sync(fetch)

关键共性注意事项(所有库通用)

  1. 不要使用框架自带json参数

    例如 httpx.post(json={})requests.post(json={}),这类接口会自动编码,无法替换成压缩二进制,必须手动序列化+使用原始body参数。

  2. 下行压缩 ≠ 上行压缩

    Accept-Encoding 只是告诉服务端:我能接收压缩响应;

    Content-Encoding: gzip 才代表:本次请求body已经压缩。

  3. 服务端必须手动解压

    绝大多数Web框架默认不会自动解压带有Content-Encoding的请求体,缺少解压代码会直接收到乱码二进制。

库选型建议

  1. 新项目、同步+异步都需要 → httpx
  2. 纯异步高并发服务/爬虫 → aiohttp
  3. 不能安装第三方包、极简环境 → urllib(标准库)
  4. 极致性能、熟悉libcurl → pycurl
  5. 老旧项目维持现状 → requests
相关推荐
不可求~4 分钟前
C++ std::string_view 不是字符串:从悬空引用到安全用法
java·开发语言·c++
90后小陈老师1 小时前
PHP 配置默认值失效排查实录:isset 兜底遇上表单空串回填,首页文案是怎么集体消失的
开发语言·php
JJJennie7772 小时前
Gemini 3.7 Flash 上线,Google 想让 AI 多干活
开发语言·javascript·ecmascript
ryan_9962 小时前
MCP Transport 完整指南:stdio 与 Streamable HTTP 到底怎样传消息
网络·网络协议·http
wuyk5552 小时前
Python 第三章:列表 List
服务器·开发语言·python
笨鸟先飞,勤能补拙2 小时前
从预测到决策:人工智能与机器学习的系统方法、工程闭环与现实边界
大数据·人工智能·windows·python·机器学习·密码学
Evand J3 小时前
【MATLAB例程,车联网7】CACC网联车辆协同控制:ACC对比、V2X时延丢包与队列稳定性,附例程下载链接
开发语言·matlab·车联网
MgArcher3 小时前
抖音a_bogus参数逆向实战:JSVMP环境模拟与Hook技术(2025最新)
javascript·爬虫·python
circuitsosk3 小时前
AI输出的“质检员”:构建智能体质量评估、异常检测与人工兜底的三层防线
人工智能·python·microsoft·正则表达式·langchain
要努力点3 小时前
Python入门第六课
开发语言·python