安装Mamba环境

一、基础环境

Mamba是基于SSM实现的序列数据处理模型,其核心算子包括选择性扫描( Selective scan)等目前只有Linux版本,所以基础环境必须是linux。 我们先来看一下[S6](GitHub - state-spaces/mamba: Mamba SSM architecture)中对基础环境的要求。

这里的pytorch版本不再赘述,需要注意的是cuda版本要求是11.6以上,如果我们设备的全局cuda版本不符合要求,推荐使用conda安装一个cuda runtime: conda install -c nvidia cuda-runtime=11.8,注意runtime无法使用nvcc编译cuda文件,所以只能下载安装编译好的mamba二进制文件。

二、安装causal-conv1d

mamba要求causal-conv1d>=1.4.0,一般来说直接使用pip install causal-conv1d是无法安装的,我们最好手动下载其二进制文件安装。

  1. 首先进入causal-conv1d的[官网](GitHub - Dao-AILab/causal-conv1d: Causal depthwise conv1d in CUDA, with a PyTorch interface);
  2. 找到和自己机器环境(cuda版本、python版本、pytorch版本等)对应的causal-conv1d二进制文件。我的机器环境是:
ini 复制代码
ubuntu 24.04;
cuda 11.8;
python 3.10;
pytorch 2.6.0

所以我选择的二进制文件是:

注意:一般服务器无法翻墙,使用wget url下载速度很慢,可以先在本地机器上挂梯子下载好之后,再传到服务器上。最后只需要执行pip install <文件名>就可以安装成功了。

三、安装mamba_ssm

安装mamba_ssm有两种方式,一个是在github上下载源码,然后pip instal -e .使用开发者模式安装。但是这个过程很慢,而且要求nvcc也符合版本要求。 我们可以直接下载对应版本的编译好的二进制文件,同理安装我的环境我下载的是:

检验mamba是否安装成功

如果causal-conv1d和mamba_ssm都成功安装没有报错,环境配置成功,我们可以检验一下是否配置成功: from mamba_ssm.ops.selective_scan_interface import selective_scan_fn执行这段代码没有报错,并能够点进去查看源码,说明环境配置成功。

相关推荐
我是大聪明.10 小时前
CUDA矩阵乘法优化:共享内存分块与Warp级执行机制深度解析
人工智能·深度学习·线性代数·机器学习·矩阵
码云数智-大飞10 小时前
大模型幻觉:成因解析与有效避免策略
人工智能·深度学习
木枷11 小时前
rl/swe/sft相关论文列表
人工智能·深度学习
A7bert77711 小时前
【YOLOv8pose部署至RDK X5】模型训练→转换bin→Sunrise 5部署
c++·python·深度学习·yolo·目标检测
爱学习的张大11 小时前
具身智能论文精度(八):Pi0.6
人工智能·深度学习
墨北小七12 小时前
从目标检测到行为识别:YOLO 模型微调实战
人工智能·深度学习·神经网络
大模型最新论文速读13 小时前
Select to Think:蒸馏 token 排序能力,效果平均提升24%
论文阅读·人工智能·深度学习·机器学习·自然语言处理
Studying 开龙wu13 小时前
深度学习PyTorch 实战九:YOLOv1目标检测从标注-训练-预测
pytorch·深度学习·yolo
冰西瓜60015 小时前
深度学习的数学原理(三十二)—— Transformer全场景掩码机制详解
人工智能·深度学习·transformer
憨波个15 小时前
【说话人日志】DOVER-Lap:overlap-aware diarization 输出融合算法
人工智能·深度学习·算法·音频·语音识别