httpx.AsyncClient()的stream方法设置timeout超时

目录

问题描述

使用httpx的异步请求AsyncClient调用stream方法请求流式接口,如果接口返回内容比较慢(比如第一个字符返回用时5s),客户端主动关闭流式通道,导致当后端接口准备好数据后,返回报错"管道已关闭"

解决办法

调用stream方法增加参数timeout

复制代码
    async def get_answer(self, job, index, text, callback):
        async with httpx.AsyncClient() as c:
            try:
                url = "流式接口地址api" 
                headers = {
                    'Authorization': g.TOKEN,
                    'Clientid': g.CLIENT_SIGN,
                    "Accept": "*/*",
                    "Cache-Control": "no-store"
                }
                params = {
                    "question": text
                }
                # 重点 增加超时配置
                timeout_config = Timeout(5.0, read=10.0)  # 总超时设为5秒,但读取超时设为10秒
                async with c.stream('GET', url, headers=headers, params=params, timeout=timeout_config) as response:
                    content_type = response.headers.get('content-type', '').lower()
                    if 'text/event-stream' in content_type:     # 流式回答
                        all_answer = ""
                        async for data in EventSource(response).aiter_sse():
                            if data:
                                all_answer += data.data
               # 省略代码
            except Exception as e:
                print(e)
相关推荐
yuhuofei202110 小时前
【Python入门】Python中的比较运算符与逻辑运算符
python
5008410 小时前
PagedAttention 源码解析:KV Cache 怎么管理
开发语言·python
*愿风载尘*10 小时前
ttk.Treeview使用指南
python
小糖学代码10 小时前
LLM系列:1.python入门:12.异常处理(Exceptions)
前端·人工智能·python·深度学习
kaico201810 小时前
数据库操作
数据库·python
专注VB编程开发20年10 小时前
JAVA动态调用函数,数字类型,Java 反射允许自动拓宽类型。
开发语言·python
En^_^Joy10 小时前
Django开发:基本入门指南
python·django·sqlite
Sinsa_SI11 小时前
2026算法应用主题赛初赛-小学4-6组(Python)试卷(含答案+详细解析)
开发语言·python·算法
繁星星繁11 小时前
Python语法(三)
开发语言·python
松☆11 小时前
10分钟上手pypto:用Python直接调PTO虚拟指令集
开发语言·python