Something wrong with the VAD algorithm

1、错误原因

调用阿里语音识别模型 paraformer-large-zh 进行多线程推理时出现错误内容如下:

bash 复制代码
warning

Something wrong with the VAD algorithm

或

VAD data_to_pop is bigger than cache["stats"].data_buf .size() !!!

error in calling pop data_buf

代码调用使用funasr库加载,如下:

python 复制代码
from funasr import AutoModel

model = AutoModel(model="paraformer-zh", model_revision="v2.0.4",
                  vad_model="fsmn-vad", vad_model_revision="v2.0.4",
                  punc_model="ct-punc-c", punc_model_revision="v2.0.4"
                  )
res = model.generate(input=f"{model.model_path}/example/asr_example.wav", 
            batch_size_s=300, 
            hotword='魔搭')
print(res)

上述代码使用了语音识别model="paraformer-zh"、端点检测vad_model="fsmn-vad"、标点符号模型punc_model="ct-punc-c",其中,vad和punc是协同使用的,而业务中多线程并发推理时出现了错误:Something wrong with the VAD algorithm,主要是vad算法的错误,最后通过多线程模拟发现语音识别过程中,vad模型无法并发调用。

2、业界方法

实际上提出该问题的博文较多,如funasr官方github 的issue中均有提及,但没有官方回复,有一位老哥提出了队列方法的解法 。各位可以看看,后面我提出我的解法及启发解法

3、解法

其实本质就是解决语音识别中三个模型不能并发调用的问题,在多线程环境里,我们可以使用线程锁来解决,只需要添加几行代码,就能解决该错误,下面我来举个例子如何添加,首先需要明确一点,多线程访问共享资源时,需要加锁,比如语音识别模型,读写统一文件等等,而我们加锁只需要加在实际语音模型的调用函数中,模型初始化、传参过程不需要加锁,比如你在deal.py文件中使用了语音识别模型asr_model

python 复制代码
# deal.py

def deal(audio_name):
    result = asr_model.generate(input=audio_name,
                                batch_size_s=300,
                                hotword=[])
    result 处理

加锁方式如下:

python 复制代码
# deal.py

import threading
lock = threading.Lock()

def deal(audio_name):
    with lock:
        result = asr_model.generate(input=audio_name,
                                    batch_size_s=300,
                                    hotword=[])
    result 继续处理

如上方式即可实现多线程并发调用语音识别模型,实现方法简单,可快速实现,在调用代码中添加锁即可。

上述思想也可以理解为队列方式,只不过这个队列我是通过线程锁来实现的,亲测有效,如有问题评论区交流。

相关推荐
电子科技圈21 小时前
赋能高端音频功能促进多样化设备创新——XMOS USB Audio平台实现四大功能升级
人工智能·mcu·音视频·智能家居·边缘计算·语音识别·智能硬件
花千树-0101 天前
IndexTTS2 推理性能分析
人工智能·深度学习·ai·语音识别·tts
不解不惑1 天前
gemma4 实现ASR语音识别
人工智能·python·语音识别
花千树-0102 天前
IndexTTS2 在 macOS 性能最佳设置(M1/M2/M3/M4 全适用)
人工智能·深度学习·macos·ai·语音识别·ai编程
渡我白衣2 天前
见微知著——特征工程的科学与艺术
人工智能·深度学习·神经网络·机器学习·计算机视觉·自然语言处理·语音识别
深念Y3 天前
多模态技术详解:TTS、ASR、OCR
ide·ai·语音识别·agi·多模态·文字识别·实时语言
小龙报3 天前
【Coze-AI智能体平台】Coze智能体实操:翻译助手从工作流搭建到应用发布全流程详解
人工智能·深度学习·计算机视觉·chatgpt·语音识别·文心一言·集成学习
李永奉4 天前
杰理芯片SDK-详细讲解AC695N/AC696N芯片SDK中APP模式流程
单片机·嵌入式硬件·物联网·语音识别
LaughingZhu4 天前
移动端 AI 的价值重估:设备端智能的拐点
大数据·人工智能·经验分享·搜索引擎·语音识别
深念Y4 天前
从WebSocket到WebRTC,豆包级实时语音交互背后的技术演进
websocket·网络协议·实时互动·webrtc·语音识别·实时音视频