安装Mamba环境

一、基础环境

Mamba是基于SSM实现的序列数据处理模型,其核心算子包括选择性扫描( Selective scan)等目前只有Linux版本,所以基础环境必须是linux。 我们先来看一下[S6](GitHub - state-spaces/mamba: Mamba SSM architecture)中对基础环境的要求。

这里的pytorch版本不再赘述,需要注意的是cuda版本要求是11.6以上,如果我们设备的全局cuda版本不符合要求,推荐使用conda安装一个cuda runtime: conda install -c nvidia cuda-runtime=11.8,注意runtime无法使用nvcc编译cuda文件,所以只能下载安装编译好的mamba二进制文件。

二、安装causal-conv1d

mamba要求causal-conv1d>=1.4.0,一般来说直接使用pip install causal-conv1d是无法安装的,我们最好手动下载其二进制文件安装。

  1. 首先进入causal-conv1d的[官网](GitHub - Dao-AILab/causal-conv1d: Causal depthwise conv1d in CUDA, with a PyTorch interface);
  2. 找到和自己机器环境(cuda版本、python版本、pytorch版本等)对应的causal-conv1d二进制文件。我的机器环境是:
ini 复制代码
ubuntu 24.04;
cuda 11.8;
python 3.10;
pytorch 2.6.0

所以我选择的二进制文件是:

注意:一般服务器无法翻墙,使用wget url下载速度很慢,可以先在本地机器上挂梯子下载好之后,再传到服务器上。最后只需要执行pip install <文件名>就可以安装成功了。

三、安装mamba_ssm

安装mamba_ssm有两种方式,一个是在github上下载源码,然后pip instal -e .使用开发者模式安装。但是这个过程很慢,而且要求nvcc也符合版本要求。 我们可以直接下载对应版本的编译好的二进制文件,同理安装我的环境我下载的是:

检验mamba是否安装成功

如果causal-conv1d和mamba_ssm都成功安装没有报错,环境配置成功,我们可以检验一下是否配置成功: from mamba_ssm.ops.selective_scan_interface import selective_scan_fn执行这段代码没有报错,并能够点进去查看源码,说明环境配置成功。

相关推荐
网络工程小王5 小时前
【大模型基础部署】(学习笔记)
人工智能·深度学习·机器学习
万里鹏程转瞬至6 小时前
论文简读:Embarrassingly Simple Self-Distillation Improves Code Generation
人工智能·深度学习
AI医影跨模态组学6 小时前
NPJ Precis Oncol 广东省人民医院放射科刘再毅团队:基于纵向MRI的深度学习模型预测乳腺癌病理完全缓解
人工智能·深度学习·论文·医学·医学影像
墨北小七7 小时前
BERT在小说大模型中的核心定位:理解者、解码者、守护者
人工智能·深度学习·神经网络·transformer
甜辣uu7 小时前
基于深度学习的CT图像肺结节分割与检测系统
人工智能·深度学习
泰恒8 小时前
人工智能简述
人工智能·深度学习·yolo·机器学习·计算机视觉
微尘hjx8 小时前
【数据集】数据集汇总(按比例划分训练、验证、测试)包含训练好的模型
人工智能·深度学习·大模型·标注工具·训练数据集·yolo数据集
墨北小七8 小时前
小说大模型---全连接神经网络-大模型中真正的“守门人”
深度学习·神经网络
SLAM必须dunk9 小时前
四足强化入门3---Robot Lab重点机器人配置,训练和调参
人工智能·深度学习·机器学习·机器人
shy^-^cky9 小时前
[特殊字符] Roberts、Sobel、Prewitt 边缘检测算子全对比
深度学习·图像分割·边缘检测·sobel·roberts·边缘检测算子·prewitt