CentOS7.9部署FunASR实时语音识别接口 | 部署商用级别实时语音识别接口FunASR

0. 环境说明

本次在云服务器中部署一套实时语音识别接口,基于阿里开源的FunASR。

云服务器使用莱卡云,4核心4GB内存50GB存储空间,带宽10Mbps。

操作系统使用CentOS7.9

视频演示可以看

云服务器中部署实时语音识别接口 | FunASR在云服务器中部署 | 云服务器 | 实时语音识别

1. 安装Docker

这里使用阿里官方打包好的docker镜像,所以我们先需要安装docker,如果你不想要使用docker方式安装,你也可以自己源码编译安装,不过推荐在Ubuntu系统中源码编译安装,如果你使用CentOS进行源码编译安装,有可能会编译失败。

首先安装系统依赖。

shell 复制代码
yum -y install gcc g++ yum-utils

我这里使用莱卡云,宁波电信云,因为是服务器在国内,这里我使用阿里云中的docker hub。

shell 复制代码
yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo

安装docker

shell 复制代码
yum -y install docker-ce docker-ce-cli containerd.io

检查是否安装成功

shell 复制代码
docker --version

如果执行上面的命令有输出版本信息,说明docker已经安装成功了。

启动docker

shell 复制代码
systemctl start docker

然后设置为开机自启动

shell 复制代码
systemctl enable docker

查看状态

shell 复制代码
systemctl status docker

2. 拉取镜像

执行下面的命令拉取docker镜像

shell 复制代码
docker pull registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-online-cpu-0.1.12

然后执行下面命令,创建目录

shell 复制代码
mkdir -p ./funasr-runtime-resources/models

运行docker容器

shell 复制代码
docker run -p 10096:10095 -it --privileged=true -v $PWD/funasr-runtime-resources/models:/workspace/models registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-online-cpu-0.1.12

3. 启动API接口

经过上面步骤会进入到docker容器内,然后我们先安装系统依赖。

shell 复制代码
apt-get update -y && apt-get install ffmpeg && cp ./onnxruntime-linux-x64-1.14.0/lib/* /usr/lib

切换路径

shell 复制代码
cd FunASR/runtime

启动接口

shell 复制代码
nohup bash run_server_2pass.sh > run.log 2>&1 &

查看接口启动日志

shell 复制代码
tail -f run.log

4. 客户端连接服务器端的API接口

由于我使用了莱卡云,如果你有域名,并且备案了,那么可以直接在莱卡云中的域名备案中绑定你已经备案好的域名。这里我就不做备案了,我这里使用SSH隧道进行绑定本地端口,然后在本地就可以访问到我们在云服务器中部署的接口了。

shell 复制代码
ssh -CNg -L 10096:127.0.0.1:10096 root@your_ip -p 22

要记得把上面的"your_ip"改为你自己的公网ip,然后按下回车键,第一次连接要输入yes,然后按下回车键后输入你的密码。

这里使用官方提供的python版本的客户端连接。

shell 复制代码
python funasr_wss_client.py --host "127.0.0.1" --port 10096 --mode 2pass
相关推荐
LCG元16 分钟前
垂直Agent才是未来:详解让大模型"专业对口"的三大核心技术
人工智能
我不是QI35 分钟前
周志华《机器学习—西瓜书》二
人工智能·安全·机器学习
操练起来1 小时前
【昇腾CANN训练营·第八期】Ascend C生态兼容:基于PyTorch Adapter的自定义算子注册与自动微分实现
人工智能·pytorch·acl·昇腾·cann
KG_LLM图谱增强大模型1 小时前
[500页电子书]构建自主AI Agent系统的蓝图:谷歌重磅发布智能体设计模式指南
人工智能·大模型·知识图谱·智能体·知识图谱增强大模型·agenticai
声网1 小时前
活动推荐丨「实时互动 × 对话式 AI」主题有奖征文
大数据·人工智能·实时互动
caiyueloveclamp1 小时前
【功能介绍03】ChatPPT好不好用?如何用?用户操作手册来啦!——【AI溯源篇】
人工智能·信息可视化·powerpoint·ai生成ppt·aippt
q***48411 小时前
Vanna AI:告别代码,用自然语言轻松查询数据库,领先的RAG2SQL技术让结果更智能、更精准!
人工智能·microsoft
LCG元1 小时前
告别空谈!手把手教你用LangChain构建"能干活"的垂直领域AI Agent
人工智能
想你依然心痛2 小时前
视界无界:基于Rokid眼镜的AI商务同传系统开发与实践
人工智能·智能硬件·rokid·ai眼镜·ar技术
Learn Beyond Limits2 小时前
Data Preprocessing|数据预处理
大数据·人工智能·python·ai·数据挖掘·数据处理