Azure Function流式返回

最近用azure function做了一个api和llm交互,需要流式返回。但是默认不支持流返回,搜索了一下。记录。

官方文档:
https://techcommunity.microsoft.com/blog/azurecompute/azure-functions-support-for-http-streams-in-python-is-now-in-preview/4146697

根据文档需要以下步骤:

前置条件

  1. Azure Functions runtime version 4.34.1, or a later version.
  2. Python version 3.8, or a later supported version.
  3. Python v2 programming model

首先第一点,这个Azure Functions runtime version版本,可以在local.settings.json或者式环境变量里面设置,如果式本地 func start启动的话也需要加PYTHON_ENABLE_INIT_INDEXING这个变量设置为1,如果线上deploy的话就加到application setting里面。

python 复制代码
{
  "IsEncrypted": false,
  "Values": {
    "PYTHON_ENABLE_INIT_INDEXING": "1",
    "FUNCTIONS_WORKER_RUNTIME": "python",
    "AzureWebJobsStorage": "UseDevelopmentStorage=true",
    "FUNCTIONS_EXTENSION_VERSION":"4.34.1"
  }
}

Azure Functions runtime version这个使用的版本可以用 func start --verbose输出更多参数查看到

第二点python版本不需要多讲。第三点azure programming版本的话就在host.json查看。

python 复制代码
{
  "version": "2.0",
  "logging": {
    "applicationInsights": {
      "samplingSettings": {
        "isEnabled": true,
        "excludedTypes": "Request"
      }
    }
  },
  "extensionBundle": {
    "id": "Microsoft.Azure.Functions.ExtensionBundle",
    "version": "[4.*, 5.0.0)"
  }
}

引入新包

bash 复制代码
pip install azurefunctions-extensions-http-fastapi

编写代码

python 复制代码
from azurefunctions.extensions.http.fastapi import Request, StreamingResponse
python 复制代码
import time
import azure.functions as func
from azurefunctions.extensions.http.fastapi import Request, StreamingResponse

app = func.FunctionApp(http_auth_level=func.AuthLevel.ANONYMOUS)

def generate_count():
    """Generate a stream of chronological numbers."""
    count = 0
    while True:
        yield f"counting, {count}\n\n"
        count += 1

@app.route(route="stream", methods=[func.HttpMethod.GET])
async def stream_count(req: Request) -> StreamingResponse:
    """Endpoint to stream of chronological numbers."""
    try:
        req_body = await req.json()
        query = req_body.get('query')
        logging.info('stream_count get parm: {query}')
    except Exception:
        traceback.print_exc()
        return StreamingResponse(content='Request parm error need {"query":str} ',status_code=500, media_type="text/event-stream")

    return StreamingResponse(generate_count(), media_type="text/event-stream")

如果是非流返回的api就不能使用默认的func.HttpResponse作为返回了,需要使用JSONResponse

python 复制代码
from azurefunctions.extensions.http.fastapi import Request,JSONResponse
@app.route(route="all_u_need_create", methods=[func.HttpMethod.GET])
async def all_u_need_create(req: Request) -> JSONResponse:
    
    ...
    return JSONResponse(content=ids,status_code=200)
    

测试

这边有点奇怪的是,我使用postman测试一直显示不了返回的流,我一度以为我代码有问题,找了半天,结果用 curl测试没有任何问题.有知道怎么解决的同学也可以给我讲一下。

bash 复制代码
curl -X GET --data-raw '{"query":"xxxxx"}' -H "Content-Type: application/json" http://localhost:7071/api/all_u_need_search

所以之后的测试就一直用的curl测试了。

相关推荐
宝桥南山1 天前
Visual Studio 2026新特性 - 可以直接连接DeepSeek(使用Custom Endpoint Provider配置项)
ide·microsoft·微软·aigc·.net·visual studio
轻松,带微笑2 天前
AI竞争进入下半场:微软押注专业模型,通用大模型不再是唯一答案
人工智能·microsoft
峥嵘life2 天前
Android16 热点「网络共享」开关的设计与实现
服务器·网络·microsoft
奇树谦3 天前
UML 时序图(Sequence Diagram)详解:从基础概念到实际项目应用
microsoft·uml
2601_967980114 天前
Python 与云计算:AWS、GCP、Azure 实践
python·云计算·azure·aws·gcp
7177777 天前
支持混合云的 DevOps 平台有哪些:Gitee、Azure DevOps、GitLab、Jenkins、JFrog 横向对比
gitee·azure·devops
Splashtop高性能远程控制软件7 天前
微软2026年11月补丁星期二解析:1094个 CVE、Outlook 零日 CVE-2026-124194 与修复优先级
microsoft·网络安全·outlook·补丁管理·漏洞管理
公子小六10 天前
基于.NET的Windows窗体编程之WinForms数据持久化(1)
windows·microsoft·c#·.net·winforms
Nerd(BUG版)10 天前
鸿蒙API18~26新增V2组件全解析
microsoft·华为·harmonyos
解决问题no解决代码问题15 天前
日志脱敏双链路统一优化:从两套枚举到单一规则源,兼顾安全与可维护性
microsoft