Paddle Serving|部署一个自己的OCR识别服务器

前言

之前使用C++部署了自己的OCR识别服务器，Socket网络传输部分是自己写的，回过头来一看，自己犯傻了，PaddleOCR本来就有自己的OCR服务器项目，叫PaddleServing，这里记录一下部署过程。

1 下载依赖环境

1.1 下载python

官网要求是python3.6之上就行，我这里下载python3.8。

bash 复制代码

conda create -n pdsrv python=3.8

注：这里用不用conda都可以，我这里是习惯用conda，只要有python环境就行.

下载完成之后，加到环境变量里面去，并且优先级设置成最高：

1.2 下载wget和git(可选)

wget下载网址为：wget下载

下载解压(安装)完成后，同样将其添加到系统变量中，如步骤1.1的图最后一行所示，我已经添加上去了，优先级无所谓。
wget验证： 打开powershell直接打wget，访问成功即可，如图所示:

git下载网址为：git下载
git的使用就不赘述，有手就行。

如果选择了步骤1.2，下载git和wget，则需要下载模型和项目，使用以下命令下载：

bash 复制代码

# 使用git下载PaddleServing项目
git clone https://github.com/paddlepaddle/Serving
# 使用wget下载模型
cd Serving/examples/C++/PaddleOCR/ocr/
python -m paddle_serving_app.package --get_model ocr_rec
tar -xzvf ocr_rec.tar.gz
python -m paddle_serving_app.package --get_model ocr_det
tar -xzvf ocr_det.tar.gz

1.3 下载PaddleServing依赖

bash 复制代码

# CPU用户下载命令
python -m pip install -U paddle_serving_server paddle_serving_client paddle_serving_app paddlepaddle`
# GPU用户下载命令
python -m pip install -U paddle_serving_server_gpu paddle_serving_client paddle_serving_app paddlepaddle-gpu
# 下载其依赖
cd Serving
pip install -r python/requirements_win.txt

之所以说步骤1.2是可选，是因为我上传了源码(需要使用git下载的部分)和模型(需要使用wget下载的部分)，惊不惊喜，意不意外！！！

2 运行OCR识别服务器

2.1 启动OCR识别服务器：

bash 复制代码

# 启动服务器
python ocr_debugger_server.py cpu/gpu

启动界面大概是这样的：

2.2 启动OCR客户端：

bash 复制代码

python ocr_web_client.py

可以看到结果与imgs路径下的图片对比：

如果不想使用这个脚本，也可以使用我写的python脚本测试：

python 复制代码

import requests
import json
import base64

def cv2_to_base64(image):
    """将图片转换为Base64编码"""
    return base64.b64encode(image).decode('utf8')


def ocr_prediction(image_path):
    """接受图片文件的绝对路径，发送OCR请求并返回结果"""
    # 设置请求头和URL
    headers = {"Content-type": "application/json"}
    url = "http://127.0.0.1:9292/ocr/prediction"

    # 打开图片文件并进行Base64编码
    with open(image_path, 'rb') as file:
        image_data = file.read()
    image_base64 = cv2_to_base64(image_data)

    # 构造请求数据
    data = {"feed": [{"x": image_base64}], "fetch": ["res"]}

    print(type(data))
    data2 = json.dumps(data)
    print(type(data2))
    print(data2)
    # 发送POST请求
    try:
        r = requests.post(url=url, headers=headers, data=data2)
        r.raise_for_status()  # 如果请求失败，抛出异常
        return r.json()  # 返回OCR结果
    except requests.exceptions.RequestException as e:
        print(f"请求失败: {e}")
        return None


# 这里替换为你的图片文件绝对路径
image_path = "xxx/imgs/bbb.jpg"  
result = ocr_prediction(image_path)
if result:
    print(result)

总结

本文主要简要记录了PaddleServing项目的部署过程，旨在帮助读者快速了解如何搭建和配置PaddleServing服务。PaddleServing是一个基于PaddlePaddle的高效推理服务框架，能够帮助用户便捷地将训练好的模型部署为可供实时预测的服务。本文将详细介绍部署过程的步骤，包括环境配置、服务启动、模型加载以及API调用等方面的内容。