SenseVoice部署,并调用api接口

目录

安装Python

这个网上找下教程安装下就可以,版本应该没有什么要求,我装的是3.10.7

记得设置pip镜像,不然后面下载包会很慢。

复制代码
pip config set global.index-url https://mirrors.aliyun.com/pypi/simple/

代码下载

​

GitHub网址:https://github.com/FunAudioLLM/SenseVoice

​可以通过git下载或者直接在github下载zip包:

复制代码
git clone https://github.com/FunAudioLLM/SenseVoice.git

解压出来文件夹是这样子的:

虚拟环境

  1. 进入项目根文件夹 ,运行cmd命令:
    创建虚拟环境(出现.venv文件夹就算成功了)

    python -m venv .venv

  2. 激活虚拟环境(命令行前面出现.venv就算成功了):

    .venv\Scripts\activate

安装依赖

复制代码
pip install -r requirements.txt

下载模型

复制代码
modelscope download --model iic/SenseVoiceSmall --local_dir model/iic/SenseVoiceSmall

modelscope download --model iic/speech_fsmn_vad_zh-cn-16k-common-pytorch --local_dir model/iic/speech_fsmn_vad_zh-cn-16k-common-pytorch

下载成功后model/iic中会出现这两个文件夹

修改启用webui.py

默认启动只能本地访问,因为我是服务器部署想要公网访问并且想要修改他的默认端口,需要修改下webui.py文件

将最后的demo.launch()改为demo.launch(server_name="0.0.0.0", server_port=8888),后面该为自己想要的端口号就可以

然后命令行运行(首次运行会下载一些东西):

复制代码
python webui.py

出现这个代表运行成功

然后就可以访问网页了。

启用api.py

上面是启用的网页版,如果想要接口请求要启用api.py,9999改为自己想要的端口就可以

复制代码
uvicorn api:app --host 0.0.0.0 --port 9999 --reload

然后就可以通过/api/v1/asr接口访问了。

相关推荐
学无止境小袁同学5 小时前
Google ADK 学习指南
python·llm·agent·多agent·google adk·llmagent·agent cli
郝学胜-神的一滴6 小时前
Effective Python 条款35:用类封装替代生成器异常注入
开发语言·人工智能·python·金融·pandas·scikit-learn·matplotlib
LK_076 小时前
【力扣】142. 环形链表 II |Python
python·leetcode·链表
wuyk5556 小时前
Python办公自动化-第02讲-Excel文件认知与四大库选型
开发语言·python·excel
用户54817845909507 小时前
Java 与 Python 在大模型与智能体领域的选型
java·python
yiangL_8 小时前
1、Python 输入输出实验|print 与 input 人机交互实践
开发语言·python·人机交互
高洁018 小时前
世界模型的因果内核:从预测表象到理解机制
人工智能·python·深度学习·transformer·迁移学习
数字融合8 小时前
透明化视频动态三维重建空间数据零核心技术
人工智能·python·virtualenv
AI创界者9 小时前
Python 进阶实战(五十四章):大模型推理网关终极架构——分布式全局前缀 Trie 缓存同步与多网关高可用协同调度
人工智能·python·aigc