【使用Flask基于PaddleOCR3.0开发一个接口 调用时报错RuntimeError: std::exception】

项目场景:

使用PaddleOCR3.0开发一个OCR接口,使用Flask封装成接口使用


问题描述

使用Flask基于PaddleOCR3.0 CPU模式开发了一个接口, 每次调用接口就会调用一次ocr.predict(path)方法。

在调试的过程中发现每次调用的第一次可以正常返回, 然后第二次就会提示:RuntimeError: std::exception。然后后续又可以...以此类推。

当前代码的实现方式是建了一个全局的OCR引擎,然后在项目启动的时候初始化


原因分析:

首先既然存在好用的情况,那核心代码应该是没问题的。

后面考虑是不是多线程导致的问题,因为我的Flask开了多线程

后面在查询资料时看到了PaddleOCR中的Issues中有人有相同的问题,链接如下:
https://github.com/PaddlePaddle/PaddleOCR/issues/15621

大致原因也是多线程引起的问题

我们观察到使用paddle+mkldnn时,有两种情况可能会遇到类似的问题:

1.多线程同时操作一个predictor;

2.在非主线程中操作全局predictor。

第一种情况是因为paddle inference不被设计为线程安全的,应用代码不应该假设其线程安全性,使用类似动态图的方式来做并行推理,所以可能需要加锁或者创建多个实例控制并发;第二种情况考虑是paddle inference的bug,目前暂时没有简单的解决办法,建议可以考虑维护一个线程池,并在每个线程中创建单独的predictor


解决方案:

方案一:修改Flask的多线程配置,取消多线程设置

这个方法我修改后测试过,确实是可以解决这个问题。但是之前启用多线程就是考虑性能方面。所以我没有选择该方案

方案二:根据Issues中的建议,加锁或者用线程池(我选择的是使用线程池的方式)

首先取消设置全局OCR引擎,新增获取OCR引擎方法:

python 复制代码
# 线程本地存储,确保每个线程有自己的OCR引擎实例
thread_local = threading.local()
def get_ocr_engine():
    """获取当前线程的OCR引擎实例,如果不存在则创建新的"""
    if not hasattr(thread_local, "ocr_engine"):
        logger.info(f"正在为线程 {threading.get_ident()} 初始化PaddleOCR模型,首次使用时可能需要1-3分钟...")
        try:
            thread_local.ocr_engine = PaddleOCR(
                use_doc_orientation_classify=False,
                use_doc_unwarping=False,
                use_textline_orientation=False,
                device='cpu'
            )
            logger.info(f"✅ 线程 {threading.get_ident()} 的OCR引擎初始化成功!")
        except Exception as e:
            logger.error(f"❌ OCR引擎初始化失败: {str(e)}")
            logger.error(traceback.format_exc())
            raise RuntimeError("模型初始化失败") from e
    
    return thread_local.ocr_engine

然后修改执行OCR的方法

python 复制代码
def perform_ocr(image):
    """对图像进行OCR识别"""
    try:
        # 获取当前线程的OCR引擎
        ocr_engine = get_ocr_engine()
        # 新版PaddleOCR调用方式
        result = ocr_engine.predict(image)
        return result
    except Exception as e:
        logger.error(f"OCR处理异常: {str(e)}", exc_info=True)
        raise RuntimeError("OCR处理失败") from e

之前是直接用全局的OCR引擎调用predict方法,修改后从自己的线程中获取OCR引擎,没有则创建

相关推荐
程序员小远2 小时前
软件测试之单元测试详解
自动化测试·软件测试·python·测试工具·职场和发展·单元测试·测试用例
心无旁骛~3 小时前
python多进程和多线程问题
开发语言·python
星云数灵3 小时前
使用Anaconda管理Python环境:安装与验证Pandas、NumPy、Matplotlib
开发语言·python·数据分析·pandas·教程·环境配置·anaconda
计算机毕设匠心工作室3 小时前
【python大数据毕设实战】青少年抑郁症风险数据分析可视化系统、Hadoop、计算机毕业设计、包括数据爬取、数据分析、数据可视化、机器学习
后端·python
计算机毕设小月哥3 小时前
【Hadoop+Spark+python毕设】智能制造生产效能分析与可视化系统、计算机毕业设计、包括数据爬取、Spark、数据分析、数据可视化、Hadoop
后端·python·mysql
计算机毕设小月哥6 小时前
【Hadoop+Spark+python毕设】中风患者数据可视化分析系统、计算机毕业设计、包括数据爬取、Spark、数据分析、数据可视化、Hadoop
后端·python·mysql
Keep_Trying_Go6 小时前
基于Zero-Shot的目标计数算法详解(Open-world Text-specified Object Counting)
人工智能·pytorch·python·算法·多模态·目标统计
计算机毕设匠心工作室6 小时前
【python大数据毕设实战】强迫症特征与影响因素数据分析系统、Hadoop、计算机毕业设计、包括数据爬取、数据分析、数据可视化、机器学习、实战教学
后端·python·mysql
Trouville017 小时前
Pycharm软件初始化设置,字体和shell路径如何设置到最舒服
ide·python·pycharm