技术栈

async generator

weixin79893765432...
1 天前
websocket·sse·ai的流式技术·llm token·http chunked·async generator·message stream
主流 AI 应用的“流式技术”的探索交流在正文开始之前,我们不妨先思考一个问题——“为什么主流 AI Agent 需要“切片分段输出”,而不是等模型算完再一起返回?”
我是有底线的