【具身智能】本地实时语音识别kaldi在正点原子RK3588上部署

纸上得来终觉浅,终知此事要躬行

费曼学习法:确定目标,以教代学,不断反馈和总结


1. 安装

官网上描述有3种安装方法:从预构建wheels下载安装、直接在目标板安装和通过交叉编译工具编译安装。

预构建wheels安装

首先登陆rk3588终端查看安装的python版

root@ATK-DLRK3588:/# python --version

Python 3.10.5

下载对应python版本的whl文件,由于我的arm 64位开发板对应的python版本为3.10,所以下载 sherpa_onnx-1.11.2-cp310-cp310-linux_aarch64.whl安装包。如果使用网页下载速度太慢,建议在链接上右击使用迅雷下载。

下载连接: https://k2-fsa.github.io/sherpa/onnx/rk-npu-cn.html

登录开发板,新建文件夹/userdata/caldi

cd /userdata

mkdir caldi

在adb所在文件夹,按住shift键右击,打开powershell窗口,输入如下命令复制文件到开发板的caldi目录。如果adb命令执行失败,将adb所在目录添加到环境变量的path变量里。

adb push sherpa_onnx-1.11.2-cp310-cp310-linux_aarch64.whl /userdata/caldi

进入到/userdata/caldi目录,进行安装

pip install sherpa_onnx-1.11.2-cp310-cp310-linux_aarch64.whl

警告先不用管

检查sherpa-onnx是否安装成功

2. 识别文件

在Ubuntu上下载识别文件

由于需要VPN,经常下载到一半失败,建议通过迅雷下载

解压压缩包

复制到开发板上

登录开发板,进入目录/userdata/caldi,使用如下命令进行语音文件转文本测试

sherpa-onnx \

--provider=rknn \

--encoder=./sherpa-onnx-rk3588-streaming-zipformer-small-bilingual-zh-en-2023-02-16/encoder.rknn \

--decoder=./sherpa-onnx-rk3588-streaming-zipformer-small-bilingual-zh-en-2023-02-16/decoder.rknn \

--joiner=./sherpa-onnx-rk3588-streaming-zipformer-small-bilingual-zh-en-2023-02-16/joiner.rknn \

--tokens=./sherpa-onnx-rk3588-streaming-zipformer-small-bilingual-zh-en-2023-02-16/tokens.txt \

./sherpa-onnx-rk3588-streaming-zipformer-small-bilingual-zh-en-2023-02-16/test_wavs/4.wav

显示如下代表成功

如果出现RKNN报错,需要重新安装librknnrt.so,经测试2.2.0版本是可以用的。

librknnrt.so 下载地址https://github.com/airockchip/rknn-toolkit2/blob/master/rknpu2/runtime/Linux/librknn_api/aarch64/librknnrt.so

下载整个仓库会耗费大量时间,可以用GitHub directory downloader下载单独文件。

3. 实时语音识别

首先获取麦克风设备的名称,使用命令 arecord -l

复制代码

使用card 0,device 0,USB 摄像头上的麦克风

sherpa-onnx-alsa \

--provider=rknn \

--encoder=./sherpa-onnx-rk3588-streaming-zipformer-small-bilingual-zh-en-2023-02-16/encoder.rknn \

--decoder=./sherpa-onnx-rk3588-streaming-zipformer-small-bilingual-zh-en-2023-02-16/decoder.rknn \

--joiner=./sherpa-onnx-rk3588-streaming-zipformer-small-bilingual-zh-en-2023-02-16/joiner.rknn \

--tokens=./sherpa-onnx-rk3588-streaming-zipformer-small-bilingual-zh-en-2023-02-16/tokens.txt \

plughw:0,0

输出如下,代表成功

参考链接:

实时语音识别Kaldi官网

111. 新一代Kaldi + RK NPU: 本地实时语音识别之rk3588_哔哩哔哩_bilibili

相关推荐
LgZhu(Yanker)2 小时前
27、企业维修保养(M&R)全流程管理:从预防性维护到智能运维的进阶之路
大数据·运维·人工智能·erp·设备·维修·保养
ModelWhale3 小时前
“大模型”技术专栏 | 和鲸 AI Infra 架构总监朱天琦:大模型微调与蒸馏技术的全景分析与实践指南(上)
人工智能·大模型·大语言模型
lxmyzzs5 小时前
【图像算法 - 08】基于 YOLO11 的抽烟检测系统(包含环境搭建 + 数据集处理 + 模型训练 + 效果对比 + 调参技巧)
人工智能·yolo·目标检测·计算机视觉
霖005 小时前
ZYNQ实现FFT信号处理项目
人工智能·经验分享·神经网络·机器学习·fpga开发·信号处理
GIS数据转换器6 小时前
AI 技术在智慧城市建设中的融合应用
大数据·人工智能·机器学习·计算机视觉·系统架构·智慧城市
竹子_236 小时前
《零基础入门AI:传统机器学习进阶(从拟合概念到K-Means算法)》
人工智能·算法·机器学习
上海云盾-高防顾问6 小时前
DDoS 防护的未来趋势:AI 如何重塑安全行业?
人工智能·安全·ddos
Godspeed Zhao6 小时前
自动驾驶中的传感器技术17——Camera(8)
人工智能·机器学习·自动驾驶·camera·cis
摆烂工程师7 小时前
GPT-5 即将凌晨1点进行发布,免费用户可以使用 GPT-5
前端·人工智能·程序员
今天也不想动7 小时前
文献解读-生境分析亚区域选择+2D_DL+3D_DL-局部晚期食管鳞状细胞癌新辅助化疗免疫治疗反应预测
人工智能·影像组学·生境分析