rknn_server: 是一个运行在板子上的后台代理服务,用于接收PC通过USB传输过来的协议,然后执行板端runtime对应的接口,并返回结果给PC。
当rknn_server没有启动,则在上位机和瑞芯微开发板的连扳调试,容易出现如下错误:
E RKNNAPI: rknn_init, server connect fail! ret = -9(ERROR_PIPE)!
E init_runtime: The rknn_server on the concected device is abnormal, please start the rknn_server on the device according to:
https://github.com/rockchip-linux/rknpu2/blob/master/rknn_server_proxy.md
原因:RKNN Toolkit2的连板功能一般需要更新板端的 rknn_server 和 librknnrt.so/librknnmrt.so,并且手动启动 rknn_server 才能正常工作。
- librknnrt.so: 是一个板端的runtime库。
- librknnmrt.so: 是专用于1103/1106平台的runtime库。
下面以linux平台为例
rknn_server存放目录
Linux
└── rknn_server
├── aarch64
│ └── usr
│ └── bin
│ ├── restart_rknn.sh
│ ├── rknn_server
│ └── start_rknn.sh
└── armhf
└── usr
└── bin
├── restart_rknn.sh
├── rknn_server
└── start_rknn.sh
- BOARD_ARCH在64位Linux系统中,对应aarch64目录,在32位系统,对应armhf目录
-
adb push Linux/rknn_server/${BOARD_ARCH}/usr/bin/下的所有文件到/usr/bin目录
-
adb push Linux/librknn_api/${BOARD_ARCH}/librknnrt.so到/usr/lib目录
adb push Linux/rknn_server/aarch64/usr/bin/. /usr/bin
adb push Linux/librknn_api/aarch64/librknnrt.so /usr/lib -
进入板子的串口终端,执行:
chmod +x /usr/bin/rknn_server
chmod +x /usr/bin/start_rknn.sh
chmod +x /usr/bin/restart_rknn.sh
restart_rknn.sh
备注:chmod +x:赋予用户文件的执行权限,使用方法:chmod +x 文件名
串口查看rknn_server详细日志-Linux平台
-
进入串口终端,设置日志等级
export RKNN_SERVER_LOGLEVEL=5
-
重启rknn_server进程(若固件没有自启动rknn_server)
restart_rknn.sh
-
再次使用python接口连板推理
具体参考链接:https://github.com/rockchip-linux/rknpu2/blob/master/rknn_server_proxy.md