Linux安装Whisper-Jax

博客

如需私有化部署欢迎咨询,包含whisper,whisper jax,faster whisper。

一、前提条件

shell 复制代码
ubuntu 20.04
python 3.9
cuda 11.8
nvidia-cublas-cu11       11.11.3.6
nvidia-cuda-cupti-cu11   11.8.87
nvidia-cuda-nvcc-cu11    11.8.89
nvidia-cuda-nvrtc-cu11   11.8.89
nvidia-cuda-runtime-cu11 11.8.89
nvidia-cudnn-cu11        8.9.6.50
nvidia-cufft-cu11        10.9.0.58
nvidia-cusolver-cu11     11.4.1.48
nvidia-cusparse-cu11     11.7.5.86
nvidia-nccl-cu11         2.20.5

查看cuDNN版本命令

shell 复制代码
cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2

这里最推荐安装cuda 11.8,安装最新的版本会与jax不兼容

二、安装Whisper-Jax

shell 复制代码
pip install git+https://github.com/sanchit-gandhi/whisper-jax.git

三、安装GPU版本的jax

我们在执行上一步安装whisper-jax的时候,会自动安装cpu版本的jax和jaxlib

jaxlib是jax运行时所需的依赖库

所以我们在安装jax的时候还需要考虑jaxlib版本问题,一般而且,jax和jaxlib的版本号是相同的

我们需要把cpu版本的jax和jaxlib都卸载掉,重新安装GPU版本的

卸载命令

shell 复制代码
pip uninstall jax jaxlib

安装命令

shelll 复制代码
pip install -U "jax[cuda11_pip]" -f https://storage.googleapis.com/jax-releases/jax_cuda_releases.html -i https://pypi.tuna.tsinghua.edu.cn/simple

这里推荐使用清华镜像源

四、解决运行时自动联网从huggingface下载模型资料的问题

找到pipeline.py,添加下面内容

python 复制代码
WhisperProcessor.from_pretrained(self.checkpoint) # 修改前
WhisperProcessor.from_pretrained(self.checkpoint, local_files_only=True) # 修改后

然后模型修改下面代码

python 复制代码
pipeline = FlaxWhisperPipline("openai/whisper-base") # 修改前
pipeline = FlaxWhisperPipline("/root/.cache/huggingface/hub/models--openai--whisper-base") # 修改后

如何解决无法访问huggingface参考文档

更多详细内容可以到我的博客浏览

相关推荐
小糖学代码1 小时前
Linux:11.线程概念与控制
linux·服务器·c语言·开发语言·c++
YouEmbedded4 小时前
解码Linux文件IO目录检索与文件属性
linux·文件属性·文件io·目录检索
大聪明-PLUS8 小时前
关于新的 Linux 内核接口 gpio uapi 的说明
linux·嵌入式·arm·smarc
玉树临风江流儿8 小时前
Linux驱动开发总结速记
linux·运维·驱动开发
cccyi78 小时前
Linux 进程信号机制详解
linux·signal·volatile
七宝大爷8 小时前
GPU服务器深度解析:H100/H200的“机头”与“模组”架构详解
运维·服务器·架构·h100·h200
gd63213749 小时前
银河麒麟 aarch64 linux 里面的 qt 怎么安装kit
linux·服务器·qt
A-花开堪折9 小时前
Qemu 嵌入式Linux驱动开发
linux·运维·驱动开发
磊灬泽9 小时前
【Linux驱动开发】PWM子系统-servo
linux·运维·算法
郝学胜-神的一滴10 小时前
Linux系统函数stat和lstat详解
linux·运维·服务器·开发语言·c++·程序人生·软件工程