rknn

rknn 量化原理在 RKNN (Rockchip Neural Network Toolkit) 中，传入校准数据集进行量化的过程是基于 Post-Training Quantization (PTQ) 的原理，特别是对于 8-bit 量化（INT8）模型，这是一个常见的过程。以下是其基本原理和流程：

不做签到员

RKLLM部署写在前面：建议去阅读官方提供的RKLLM doc，本文基于官方的RKLLM doc制作而成（没有将flask相关内容添加进来），仅仅添加了完整流程的执行过程截图和在做这以流程过程中遇到的问题

【Rockchip系列】RGA imcopy 性能分析：不同缓冲区拷贝的对比（含实验代码）在嵌入式系统和移动设备中，图形处理的性能至关重要。Rockchip 图形加速器（RGA）提供了高效的 2D 图形操作，其中 imcopy 函数是一个常用的图像复制工具。本文将深入分析 imcopy 函数在不同场景下的性能表现。

【RKNN系列】常用函数：使用RGA加速画框以下是针对convert_and_draw_rectangle函数的详细使用说明：在给定的图像数据上使用RGA（Rockchip Graphics Acceleration）绘制矩形框。

RKNN 系列文章导航欢迎阅读我的RKNN系列文章。在这个系列中，我们将涵盖从下载和安装RKNN的Docker镜像到项目测试的各个步骤。

不做签到员

Bubbliiiing 的 Retinaface rknn python推理分析使用的是Bubbliiiing的深度学习教程-Pytorch 搭建自己的Retinaface人脸检测平台的模型，下面是项目的Bubbliiiing视频讲解地址以及源码地址和博客地址；

不做签到员

rockchip的yolov5 rknn python推理分析对于rockchip给出的这个yolov5后处理代码的分析，本人能力十分有限，可能有的地方描述的很不好，欢迎大家和我一起讨论，指出我的错误！！！

【已解决】pt文件转onnx后再转rknn时得到推理图片出现大量锚框变花屏Ubuntu 18.04.5 LTSpy3.8-rknn2-1.4.0迅为itop-3568开发板采用yolov5训练并将pt转换为onnx，再将onnx采用py3.8-rknn2-1.4.0推理转换为rknn，rknn模型能正常转换，并且推理显示正常。但将rknn文件放到开发板，使用rknn_toolkit_lite2进行推理时，得到的推理图片出现大量锚框变花屏，如下。

onnx转换为rknn置信度大于1，图像出现乱框问题解决Ubuntu 18.04.5 LTSpy3.8-rknn2-1.4.0迅为itop-3568开发板采用yolov5训练并将pt转换为onnx，再将onnx采用py3.8-rknn2-1.4.0推理转换为rknn出现置信度大于1，并且图像乱框问题。类似下面这样

RKNN Toolkit Lite2 一键安装和测试，sh脚本本教程旨在指导用户如何使用提供的shell脚本来安装和测试RKNN Toolkit Lite2，适用于需要在Linux系统上部署和测试AI模型的开发者。

使用rknn-toolkit2将paddleseg模型导出rknn模型目录安装paddle2onnx环境将paddle模型导出onnx模型安装rknn-toolkits转化rknn模型

刀么克瑟拉莫

RK3588使用npu运行onnx模型推理先说总体流程： 1.在x86主机上安装【rknn-toolkit2】 2.使用【rknn-toolkit2】，把onnx模型转换成rknn格式的模型。 3.在板子部署【rknpu2】，在编程时，调用其提供的接口即可。

钱多多先森

【RKNN】YOLO V5中pytorch2onnx，pytorch和onnx模型输出不一致，精度降低在yolo v5训练的模型，转onnx，再转rknn后，测试发现：于是，根据这种测试情况，rknn模型的上游，就是onnx。onnx这里发现不对劲，肯定是这步就出现了问题。于是就查pytorch转onnx阶段，就存在转化的精度降低了。

rknn_server启动方法rknn_server: 是一个运行在板子上的后台代理服务，用于接收PC通过USB传输过来的协议，然后执行板端runtime对应的接口，并返回结果给PC。

边缘计算NVIDIA&Rockchip

使用rknn-toolkit2把YOLOV5部署到OK3588上首先在PC的ubuntu系统安装虚拟环境：我的服务器是ubuntu18.04版本，所以安装python3.6 conda create -n ok3588 python=3.6 需要键盘输入y，然后完成虚拟环境安装。其他系统的对应关系： Ubuntu 18.04 python 3.6 / Ubuntu 20.04 python 3.8 / Ubuntu 22.04 python 3.10