[AI]docker封装包含cuda cudnn的paddlepaddle PaddleOCR

封装,启动时需要在GPU服务器上

显卡驱动 cuda等下载需要注册账号

环境 Ubuntu 24.04 LTS
镜像 uvicorn-gunicorn-fastapi:python3.8
显卡支持版本 CUDA Version: 12.5
cuda版本 cuda_12.4.0_550.54.14_linux.run
cudnn版本
PaddlePaddle-Gpu
PaddleOCR

启动进入容器

复制代码
 docker run  --gpus all -it  tiangolo/uvicorn-gunicorn-fastapi:python3.8 --name ugf-cuda-cudnn
 docker exec it ugf-cuda-cudnn /bin/bash

安装cuda

1.下载cuda

CUDA Toolkit Archive | NVIDIA Developer
显卡支持cuda版本为12.5 cuda-toolkit降低一个版本12.4

复制代码
wget https://developer.download.nvidia.com/compute/cuda/12.4.0/local_installers/cuda_12.4.0_550.54.14_linux.run

2.部署cuda
复制代码
sudo sh cuda_12.4.0_550.54.14_linux.run

输入accept
把这里的X按空格取消掉后再进行安装
配置环境变量

复制代码
echo 'export PATH=$PATH:/usr/local/cuda-12.4/bin' >>/etc/profile
echo 'export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-12.4/lib64' >>/etc/profile
echo 'export CUDA_HOME=$CUDA_HOME:/usr/local/cuda-12.4' >>/etc/profile
source  /etc/profile

检查是否安装成功

如果出现下面版本号信息则安装成功

复制代码
root@ef174907636d:~# nvcc -V
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2024 NVIDIA Corporation
Built on Tue_Feb_27_16:19:38_PST_2024
Cuda compilation tools, release 12.4, V12.4.99
Build cuda_12.4.r12.4/compiler.33961263_0

安装cudnn

1.下载cudnn

cudnn下载地址

2.安装cudnn
复制代码
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo apt-get update
sudo apt-get -y install cudnn
#我们这里是cuda12所以安装12
sudo apt-get -y install cudnn-cuda-12
3.查找cudnn安装位置
复制代码
whereis cudnn_version.h
#返回下面
root@ef174907636d:~# whereis cudnn_version.h
cudnn_version.h: /usr/include/cudnn_version.h
4.将cudnn相关安装文件cp到cuda下
复制代码
cp /usr/include/cudnn* /usr/local/cuda-12.4/include
5.检查是否安装成功
复制代码
cat /usr/local/cuda-12.4/include/cudnn_version.h | grep CUDNN_MAJOR -A 2
dpkg -l |grep cudnn

安装paddlepaddle-gpu

复制代码
 python -m pip install paddlepaddle-gpu==2.6.2.post120 -i https://www.paddlepaddle.org.cn/packages/stable/cu120/

安装PaddleOCR

复制代码
# 先卸载掉fastapi,不然会发生版本冲突
pip uninstall fastapi
pip install PaddleOCR   -i https://pypi.tuna.tsinghua.edu.cn/simple
# 再安装fastapi
pip install fastapi

安装相关依赖包

复制代码
apt-get install libgl1-mesa-glx
相关推荐
阿里云大数据AI技术4 分钟前
阿里云 Milvus 场景中心|一键部署你的AI应用
人工智能
京东云开发者5 分钟前
Agent 研发工作系统:面向多需求并行端到端开发的设计与实践
人工智能
IT大白鼠1 小时前
当 AI 开始自动化渗透:FBI ARTEX 警报的防守对策
运维·人工智能·自动化
进击的丸子2 小时前
1126B的Demo实操——虹软ArcFace SDK(RV1126BP ARM64 V5.0)交叉编译与运行指南
人工智能·程序员·代码规范
独隅2 小时前
Cann-Samples 实战应用与场景落地指南
人工智能·cann·cann-samples
阿里云大数据AI技术2 小时前
让 Agent 学会诊断 Elasticsearch:一套证据绑定的智能运维方法论
人工智能
十有八七2 小时前
手搓 Agent(四):长点记性——上下文满了怎么办,怎么记住上一次
前端·人工智能·后端
米小虾3 小时前
Jev 拆解:不写字、只判断,一个「决策模型」如何接管 LLM 最贵的那一步
人工智能·agent
数字新视界3 小时前
全国产化动环监控平台在机房智能化管理中的应用探索
大数据·人工智能·数据中心·机房管理·模块化机房