flask流式接口

一、接口封装

复制代码
from flask import Flask, request, Response, stream_with_context
app = Flask(__name__)
app.logger.disabled = True

def chat_stream_(prompt):
    for new_text in ['1','2','3']:
        yield new_text

@app.route('/chat_stream', methods=['POST'])
def chat_stream():
    prompt = request.json['prompt']
    return app.response_class(stream_with_context(chat_stream_(prompt)))


if __name__ == '__main__':
    app.run('0.0.0.0', 1000)

二、接收流式返回

复制代码
import requests
url = "http://127.0.0.1:1000/chat_stream"
data = {"prompt":"怎么编研文档"}
res = requests.post(url, json=data, stream=True)
for token in res:
    print(token.decode("utf-8"))
相关推荐
Juchecar28 分钟前
NumPy编程:鼓励避免 for 循环
python
在逃牛马31 分钟前
【Uni-App+SSM 宠物项目实战】Day16:订单提交
后端
高松燈33 分钟前
浮点数类型导致金额计算错误复盘总结
后端
华仔啊1 小时前
主线程存了用户信息,子线程居然拿不到?ThreadLocal 背锅
java·后端
知了一笑1 小时前
「AI」网站模版,效果如何?
前端·后端·产品
小王子4801 小时前
性能优化实践分享
后端
RoyLin1 小时前
TypeScript设计模式:状态模式
前端·后端·typescript
RoyLin1 小时前
TypeScript设计模式:观察者模式
前端·后端·typescript
RoyLin1 小时前
TypeScript设计模式:备忘录模式
前端·后端·typescript