智谱(Zhipu)大模型的流式使用 response.iter_lines() 逐行解析 SSE 流

复制代码
import requests
import json
url = "https://open.bigmodel.cn/api/paas/v4/chat/completions"

payload = {
    "model": "glm-4.7",
    "messages": [
        {
            "role": "user",
            "content": "写一首关于春天的诗。"
        }
    ],
    "stream": True,
    "temperature": 1
}
headers = {
    "Authorization": "api-key",
    "Content-Type": "application/json"
}
response = requests.post(url, json=payload, headers=headers)
# 检查状态
if response.status_code != 200:
    print(f"请求失败: {response.status_code} - {response.text}")
    exit()
full_content = []
#流失输出
print("正在生成...\n")
try:
    for line in response.iter_lines():
        if line:
            decoded_line = line.decode('utf-8')
            # SSE 格式: data: {...}
            if decoded_line.startswith("data:"):
                json_str = decoded_line[len("data:"):].strip()
                if json_str == "[DONE]":
                    break
                try:
                    chunk = json.loads(json_str)
                    # 提取 reasoning_content
                    if "choices" in chunk and len(chunk["choices"]) > 0:
                        delta = chunk["choices"][0].get("delta", {})
                        content = delta.get("reasoning_content")
                        if content is not None:
                            full_content.append(content)
                            #print(content, end="", flush=True)  # 实时打印
                except json.JSONDecodeError as e:
                    print(f"\nJSON 解析错误: {e}, 原始数据: {json_str}")
except Exception as e:
    print(f"\n流处理异常: {e}")

print("\n\n✅ 最终完整输出:")
print("".join(full_content))

你提供的代码使用 requests.post 调用智谱(Zhipu)大模型的 流式(stream=True)接口,但当前写法存在两个关键问题:

❌ response.text 无法正确处理 流式响应(SSE) ------ 它会等待整个响应结束才返回,而流式接口是逐块发送的;

❌ 智谱 GLM-4 的流式响应中,实际文本内容在 choices0.delta.reasoning_content 字段(而非标准 OpenAI 的 content)。

✅ 正确做法:使用 response.iter_lines() 逐行解析 SSE 流

以下是 完整可运行的修复代码,能正确提取 reasoning_content 并拼接成完整诗歌:

python

编辑

import requests

import json

配置

url = "https://open.bigmodel.cn/api/paas/v4/chat/completions"

payload = {

"model": "glm-4.7",

"messages": [

{"role": "user", "content": "写一首关于春天的诗。"}

],

"stream": True,

"temperature": 1

}

headers = {

"Authorization": "Bearer your_api_key_here", # ⚠️ 替换为你的有效 API Key

"Content-Type": "application/json"

}

发送流式请求

response = requests.post(url, json=payload, headers=headers, stream=True)

检查状态

if response.status_code != 200:

print(f"请求失败: {response.status_code} - {response.text}")

exit()

full_content = \[\]

print("正在生成...\n")

try:

for line in response.iter_lines():

if line:

decoded_line = line.decode('utf-8')

SSE 格式: data: {...}

if decoded_line.startswith("data:"):

json_str = decoded_linelen("data:"):.strip()

if json_str == "DONE":

break

try:

chunk = json.loads(json_str)

提取 reasoning_content

if "choices" in chunk and len(chunk"choices") > 0:

delta = chunk"choices"0.get("delta", {})

content = delta.get("reasoning_content")

if content is not None:

full_content.append(content)

print(content, end="", flush=True) # 实时打印

except json.JSONDecodeError as e:

print(f"\nJSON 解析错误: {e}, 原始数据: {json_str}")

except Exception as e:

print(f"\n流处理异常: {e}")

print("\n\n✅ 最终完整输出:")

print("".join(full_content))

🔑 关键说明

表格

问题 解决方案

流式响应读取 使用 stream=True + response.iter_lines()

SSE 格式解析 每行以 data: 开头,去掉前缀后解析 JSON

字段位置 智谱 GLM-4 流式响应使用 delta.reasoning_content(不是 content)

结束标志 遇到 data: DONE 时停止

实时输出 print(..., end="", flush=True) 实现逐字打印

📝 输出示例(模拟)

text

编辑

正在生成...

春天的缕东风穿过山谷,

便唤醒了沉睡的田野。

✅ 最终完整输出:

春天的缕东风穿过山谷,

便唤醒了沉睡的田野。

相关推荐
坚定信念,勇往无前5 小时前
mongodb的日志分割
数据库·mongodb
ℋᙚᵐⁱᒻᵉ鲸落7 小时前
移动端滑动手势冲突:overflow: auto导致外层横向滑动失效
前端·javascript·css·vue.js·html
Brilliantwxx8 小时前
【Linux】 进程(9)程序与进程地址空间(基础+进阶+面试题)
linux·运维·服务器·开发语言·c++
oradh8 小时前
Oracle TX 锁 Mode 4(Share)问题排查总结
数据库·oracle·tx 锁 mode 4·oracle tx 锁
不怕犯错,就怕不做8 小时前
git prune 自动删除本地记录中那些远程已经不存在的分支引用
linux·服务器·git
yi.Ist9 小时前
数据定义语言-DDL操作
数据库·学习·mysql·oracle·大海豚
默_笙9 小时前
🎃 前端学了 Next.js,后端该学啥?NestJS 就是 Node 版的蜜雪冰城
前端·javascript
weixin_416667969 小时前
【无标题】
运维·服务器·网络
前端snow10 小时前
ai agent --- 实现 openclaw 定时间效果
前端
码云之上10 小时前
换模型之后,Chatbot 为什么要自己做 compact?
前端·agent·前端工程化