Paddlex服务化代理处理跨域、替换Response中Json key

背景

前端直接调用paddlex serve服务时,由于前端会发送OPTIONS请求,paddlex默认会拒绝跨域请求。

另外由于前端限制,需要把Response中errorCode、errorMsg替换成code、message。

方案

Nginx

通过 Nginx 的 sub_filter 或 OpenResty 的 Lua 脚本修改 JSON 键名(适用于简单替换)。

Nginx是替换,存在把正常的内容替换的情况,不推荐。

Nginx 配置示例:

nginx 复制代码
server {
    listen 80;
    server_name your_domain.com;

    location /predict {
        proxy_pass http://localhost:8000;  # PaddleX 服务地址
        sub_filter '"errorCode":' '"code":';  # 替换字段
        sub_filter '"errorMsg":' '"message":';
        sub_filter '"result":' '"data":';
        sub_filter_once off;
        sub_filter_types application/json;
    }
}

修改配置后重载 Nginx:

bash 复制代码
sudo nginx -t && sudo systemctl reload nginx

uvicorn(Python代理)

Uvicorn 作为一款基于异步 I/O 的 ASGI 服务器,在高并发场景下表现优异,但其性能也受到配置、应用逻辑、硬件资源等因素影响。

1.编写代理

新建proxy.py文件:

python 复制代码
from fastapi import FastAPI, Request, HTTPException
from fastapi.middleware.cors import CORSMiddleware
from fastapi.responses import JSONResponse
import requests
import logging

# 配置日志
logging.basicConfig(level=logging.INFO)
logger = logging.getLogger(__name__)

app = FastAPI()

# 跨域配置
app.add_middleware(
    CORSMiddleware,
    allow_origins=["*"],
    allow_credentials=True,
    allow_methods=["*"],
    allow_headers=["*"],
)

PADDLEX_SERVER = "http://localhost:8080"

@app.post("/ocr")
async def predict(request: Request):
    try:
        # 1. 获取客户端请求体
        client_json = await request.json()
        
        # 2. 转发请求到 PaddleX 服务
        response = requests.post(
            f"{PADDLEX_SERVER}/ocr",
            json=client_json,
            timeout=30  # 添加超时控制
        )
        response.raise_for_status()  # 自动抛出 HTTP 错误
        
        # 3. 处理原始响应数据
        try:
            response_data = response.json()
        except requests.exceptions.JSONDecodeError:
            logger.error("PaddleX 返回了非 JSON 响应")
            raise HTTPException(502, "后端服务响应格式错误")

        # 4. 字段替换逻辑
        if "errorCode" in response_data:
            response_data["code"] = response_data.pop("errorCode")
        if "errorMsg" in response_data:
            response_data["message"] = response_data.pop("errorMsg")
        if "result" in response_data:
            response_data["data"] = response_data.pop("result")
        if "code" in response_data and response_data["code"] == 0:
            response_data["code"] = 200

        # 5. 返回修改后的响应(移除 Content-Length 头)
        headers = dict(response.headers)
        headers.pop("Content-Length", None)  # 删除原始 Content-Length
        headers.pop("content-length", None)  # 小写 key 兼容
        headers.pop("server", None)  # 小写 key 兼容
        headers.pop("date", None)  # 小写 key 兼容
        
        return JSONResponse(
            content=response_data,
            status_code=response.status_code,
            headers=headers
        )

    except requests.exceptions.RequestException as e:
        logger.error(f"请求后端服务失败: {str(e)}")
        raise HTTPException(504, f"后端服务通信失败: {str(e)}")
    except Exception as e:
        logger.error(f"未知错误: {str(e)}")
        raise HTTPException(500, "服务器内部错误")

if __name__ == "__main__":
    import uvicorn
    uvicorn.run(app, host="0.0.0.0", port=8090)
2.启动代理
bash 复制代码
nohup python paddleImageOcrProxy.py > paddleImageOcrProxy.log 2>&1 &

查看日志:

bash 复制代码
$  tail -fn 200 paddleImageOcrProxy.log
INFO:     Started server process [18566]
INFO:     Waiting for application startup.
INFO:     Application startup complete.
INFO:     Uvicorn running on http://0.0.0.0:8090 (Press CTRL+C to quit)
INFO:     10.90.201.61:10346 - "POST /ocr HTTP/1.1" 200 OK
INFO:     10.90.201.61:10357 - "POST /ocr HTTP/1.1" 200 OK
INFO:     10.90.201.61:10357 - "POST /ocr HTTP/1.1" 200 OK
INFO:     10.90.200.182:52519 - "OPTIONS /ocr HTTP/1.1" 200 OK
INFO:     10.90.200.182:52519 - "POST /ocr HTTP/1.1" 200 OK
相关推荐
chenjingming6665 小时前
JWT(JSON Web Token)有效期查看登录过期时间
json
ye小杰榨 问鼎中原ZP6 小时前
初探:用 FastAPI 搭建你的第一个 AI Agent 接口
人工智能·fastapi
绘梨衣的sakura路18 小时前
Fastjson ≤ 1.2.83 新型 RCE 漏洞深度分析:三层绕过机制与完整利用链
安全·web安全·json
雨辰AI19 小时前
全集实战:企业级大模型服务化部署全栈指南|FastAPI 封装 + Nginx 负载均衡 + 高可用架构 从单机到生产一步到位
人工智能·ai·负载均衡·fastapi·ai编程
江湖十年1 天前
Go 语言中 YAML to JSON 踩坑笔记
后端·go·json
李昊哲小课1 天前
FastAPI 猫咖预约系统 API
人工智能·python·fastapi
深念Y1 天前
CC Switch 显示错误模型名的排查与解决
网关·开源·agent·项目·代理
IT小盘1 天前
08-FastAPI加MySQL实现AI对话记录持久化
android·mysql·fastapi
前网易架构师-高司机1 天前
带标注的扑克牌识别数据集,识别率99.5%,3083张图,支持yolo,coco json,voc xml,文末有模型训练代码
xml·yolo·json·数据集·数字·扑克牌·纸牌
前网易架构师-高司机1 天前
带标注的浮游藻类24种数据集,识别率91.5 %数据集, 23175张图,支持yolo,coco json,voc xml,文末有模型训练代码
yolo·json·数据集·微观·生物·浮游·藻类