Paddlex服务化代理处理跨域、替换Response中Json key

背景

前端直接调用paddlex serve服务时,由于前端会发送OPTIONS请求,paddlex默认会拒绝跨域请求。

另外由于前端限制,需要把Response中errorCode、errorMsg替换成code、message。

方案

Nginx

通过 Nginx 的 sub_filter 或 OpenResty 的 Lua 脚本修改 JSON 键名(适用于简单替换)。

Nginx是替换,存在把正常的内容替换的情况,不推荐。

Nginx 配置示例:

nginx 复制代码
server {
    listen 80;
    server_name your_domain.com;

    location /predict {
        proxy_pass http://localhost:8000;  # PaddleX 服务地址
        sub_filter '"errorCode":' '"code":';  # 替换字段
        sub_filter '"errorMsg":' '"message":';
        sub_filter '"result":' '"data":';
        sub_filter_once off;
        sub_filter_types application/json;
    }
}

修改配置后重载 Nginx:

bash 复制代码
sudo nginx -t && sudo systemctl reload nginx

uvicorn(Python代理)

Uvicorn 作为一款基于异步 I/O 的 ASGI 服务器,在高并发场景下表现优异,但其性能也受到配置、应用逻辑、硬件资源等因素影响。

1.编写代理

新建proxy.py文件:

python 复制代码
from fastapi import FastAPI, Request, HTTPException
from fastapi.middleware.cors import CORSMiddleware
from fastapi.responses import JSONResponse
import requests
import logging

# 配置日志
logging.basicConfig(level=logging.INFO)
logger = logging.getLogger(__name__)

app = FastAPI()

# 跨域配置
app.add_middleware(
    CORSMiddleware,
    allow_origins=["*"],
    allow_credentials=True,
    allow_methods=["*"],
    allow_headers=["*"],
)

PADDLEX_SERVER = "http://localhost:8080"

@app.post("/ocr")
async def predict(request: Request):
    try:
        # 1. 获取客户端请求体
        client_json = await request.json()
        
        # 2. 转发请求到 PaddleX 服务
        response = requests.post(
            f"{PADDLEX_SERVER}/ocr",
            json=client_json,
            timeout=30  # 添加超时控制
        )
        response.raise_for_status()  # 自动抛出 HTTP 错误
        
        # 3. 处理原始响应数据
        try:
            response_data = response.json()
        except requests.exceptions.JSONDecodeError:
            logger.error("PaddleX 返回了非 JSON 响应")
            raise HTTPException(502, "后端服务响应格式错误")

        # 4. 字段替换逻辑
        if "errorCode" in response_data:
            response_data["code"] = response_data.pop("errorCode")
        if "errorMsg" in response_data:
            response_data["message"] = response_data.pop("errorMsg")
        if "result" in response_data:
            response_data["data"] = response_data.pop("result")
        if "code" in response_data and response_data["code"] == 0:
            response_data["code"] = 200

        # 5. 返回修改后的响应(移除 Content-Length 头)
        headers = dict(response.headers)
        headers.pop("Content-Length", None)  # 删除原始 Content-Length
        headers.pop("content-length", None)  # 小写 key 兼容
        headers.pop("server", None)  # 小写 key 兼容
        headers.pop("date", None)  # 小写 key 兼容
        
        return JSONResponse(
            content=response_data,
            status_code=response.status_code,
            headers=headers
        )

    except requests.exceptions.RequestException as e:
        logger.error(f"请求后端服务失败: {str(e)}")
        raise HTTPException(504, f"后端服务通信失败: {str(e)}")
    except Exception as e:
        logger.error(f"未知错误: {str(e)}")
        raise HTTPException(500, "服务器内部错误")

if __name__ == "__main__":
    import uvicorn
    uvicorn.run(app, host="0.0.0.0", port=8090)
2.启动代理
bash 复制代码
nohup python paddleImageOcrProxy.py > paddleImageOcrProxy.log 2>&1 &

查看日志:

bash 复制代码
$  tail -fn 200 paddleImageOcrProxy.log
INFO:     Started server process [18566]
INFO:     Waiting for application startup.
INFO:     Application startup complete.
INFO:     Uvicorn running on http://0.0.0.0:8090 (Press CTRL+C to quit)
INFO:     10.90.201.61:10346 - "POST /ocr HTTP/1.1" 200 OK
INFO:     10.90.201.61:10357 - "POST /ocr HTTP/1.1" 200 OK
INFO:     10.90.201.61:10357 - "POST /ocr HTTP/1.1" 200 OK
INFO:     10.90.200.182:52519 - "OPTIONS /ocr HTTP/1.1" 200 OK
INFO:     10.90.200.182:52519 - "POST /ocr HTTP/1.1" 200 OK
相关推荐
西西弗Sisyphus41 分钟前
Python FastAPI 和 Uvicorn 同步 (Synchronous) vs 异步 (Asynchronous)
python·fastapi·uvicorn
钱彬 (Qian Bin)1 小时前
项目实践14—全球证件智能识别系统(切换回SQLite数据库并基于Docker实现离线部署和日常管理)
运维·docker·容器·fastapi·证件识别
源代码•宸8 小时前
goframe框架签到系统项目开发(补签逻辑实现、编写Lua脚本实现断签提醒功能、简历示例)
数据库·后端·中间件·go·lua·跨域·refreshtoken
闲人编程8 小时前
电商平台用户系统API设计
数据库·后端·消息队列·fastapi·监控·容器化·codecapsule
曲幽9 小时前
FastAPI + TinyDB并发陷阱与实战:告别数据错乱的解决方案
python·json·fastapi·web·并发·queue·lock·文件锁·tinydb
电商API&Tina9 小时前
跨境电商高并发 API 接口接入指南(技术落地 + 高可用优化)
大数据·服务器·前端·数据库·python·json
loong_XL9 小时前
大模型JSON格式输出:instructor
ai·大模型·llm·json
skywalk816310 小时前
JWT_SECRET 是 JSON Web Token (JWT) 的密钥,用于服务器生成令牌和验证令牌
运维·服务器·json
Watermelo61710 小时前
TOON:一种为大模型设计的JSON压缩型数据结构
数据结构·人工智能·语言模型·自然语言处理·数据挖掘·数据分析·json
natide14 小时前
Llama2 API部署错误调试
fastapi·llama