OpenShift 4 - 在 OpenShift 上运行物体检测 AI 应用

OpenShift / RHEL / DevSecOps 汇总目录

说明:本文已经在 OpenShift 4.14 + RHODS 2.5.0 的环境中验证

说明:请先根据《OpenShift 4 - 部署 OpenShift AI 环境,运行 AI/ML 应用(视频)》一文完成 OpenShift AI 环境的安装。

注意:如无特殊说明,和 OpenShift AI 相关的 Blog 均无需 GPU。

文章目录

部署后端模型

在 Jupyter Notebook 中我们先用本地图片测试一个预先训练好的机器学习模型,然后将该模型的功能封装为一个 REST 服务。在完成本地测后再将物体识别模块部署到 OpenShift 上。

运行后端模型

  1. 在 OpenShift AI 中启动 notebook server 环境,notebook 镜像使用 TensorFlow 2023.2 即可。
  2. 在 Jupyter Notebook 界面中导入 https://github.com/rh-aiservices-bu/object-detection-rest.git 仓库。
  3. 在 Launcher 中进入 Terminal,然后执行以下命令安装 Pillow。
bash 复制代码
(app-root) (app-root) pip install Pillow==9.5.0
Collecting Pillow==9.5.0
  Downloading Pillow-9.5.0-cp39-cp39-manylinux_2_28_x86_64.whl (3.4 MB)
     ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 3.4/3.4 MB 84.0 MB/s eta 0:00:00
Installing collected packages: Pillow
  Attempting uninstall: Pillow
    Found existing installation: Pillow 10.1.0
    Uninstalling Pillow-10.1.0:
      Successfully uninstalled Pillow-10.1.0
Successfully installed Pillow-9.5.0

[notice] A new release of pip available: 22.2.2 -> 23.3.2
[notice] To update, run: pip install --upgrade pip
  1. 打开 1_explore.ipynb 文件,然后点击 Run > Run All Cells 菜单。
  2. 运行完成后会识别并标记出 twodogs.jpg 图片的 dog。

将后端模型部署为 REST 服务

  1. 根据 Notebook 的说明依次运行 2_predict.ipynb、3_run_flask.ipynb、4_test_flask.ipynb。其中 3_run_flask.ipynb 会在 http://127.0.0.1:5000 提供运行物体识别的 REST 服务。
  2. 在 OpenShift 中创建 object-detect 项目。
  3. 在 OpenShift 的开发者视图中进入 "+添加" > "从 Github 导入",在 Git Repo URL 中填入 https://github.com/rh-aiservices-bu/object-detection-rest.git。在按下图完成配置后点击 "创建"。
  4. 部署完成后可以打开下图 object-detect-rest 路由的地址,将显示 {"status":"ok"},说明 REST 服务正常运行。
  5. 打开 4_test_flask.ipynb 文件,将 my_route 变量的内容改为上图的路由地址,然后再运行该文件并确认可以正常识别图片中的物体。

部署前端应用

  1. 再次使用 "从 Git 导入" 功能部署 https://github.com/rh-aiservices-bu/object-detection-app.git。
    其中需要在部署中增加一个环境变量 OBJECT_DETECTION_URL=http://object-detection-rest:8080/predictions
  2. 完成部署后打开下图 object-detect-ui 路由的地址。
  3. 用带有摄像头的电脑打开 object-detect-ui 路由的地址,然后可拍摄图片确认物体识别结果。

参考

https://redhat-scholars.github.io/rhods-od-workshop/rhods-od-workshop/index.html

相关推荐
陌上阳光几秒前
动手学深度学习69 BERT预训练
人工智能·深度学习·bert
车载诊断技术1 分钟前
电子电气架构--- 实施基于以太网的安全车载网络
网络·人工智能·安全·架构·汽车·电子电器架构
言之。8 分钟前
【K-Means】
算法·机器学习·kmeans
学步_技术33 分钟前
自动驾驶系列—自动驾驶车辆的姿态与定位:IMU数据在复杂环境中的关键作用
人工智能·自动驾驶·imu
Jeffrey_oWang1 小时前
软间隔支持向量机
算法·机器学习·支持向量机
开发者每周简报1 小时前
当微软windows的记事本被AI加持
人工智能·windows·microsoft
沉下心来学鲁班1 小时前
欺诈文本分类检测(十八):基于llama.cpp+CPU推理
人工智能·语言模型·分类·cpu·llama.cpp
新手小白勇闯新世界1 小时前
点云论文阅读-1-pointnet++
论文阅读·人工智能·深度学习·神经网络·计算机视觉
小菜日记^_^1 小时前
BEAGLE: Forensics of Deep Learning Backdoor Attack for Better Defense(论文阅读)
论文阅读·人工智能·深度学习·sp·ai安全·backdoor 后门攻击·安全四大
华为云开发者联盟1 小时前
解读Karmada多云容器编排技术,加速分布式云原生应用升级
kubernetes·集群·karmada·多云容器