安装Mamba环境

一、基础环境

Mamba是基于SSM实现的序列数据处理模型,其核心算子包括选择性扫描( Selective scan)等目前只有Linux版本,所以基础环境必须是linux。 我们先来看一下[S6](GitHub - state-spaces/mamba: Mamba SSM architecture)中对基础环境的要求。

这里的pytorch版本不再赘述,需要注意的是cuda版本要求是11.6以上,如果我们设备的全局cuda版本不符合要求,推荐使用conda安装一个cuda runtime: conda install -c nvidia cuda-runtime=11.8,注意runtime无法使用nvcc编译cuda文件,所以只能下载安装编译好的mamba二进制文件。

二、安装causal-conv1d

mamba要求causal-conv1d>=1.4.0,一般来说直接使用pip install causal-conv1d是无法安装的,我们最好手动下载其二进制文件安装。

  1. 首先进入causal-conv1d的[官网](GitHub - Dao-AILab/causal-conv1d: Causal depthwise conv1d in CUDA, with a PyTorch interface);
  2. 找到和自己机器环境(cuda版本、python版本、pytorch版本等)对应的causal-conv1d二进制文件。我的机器环境是:
ini 复制代码
ubuntu 24.04;
cuda 11.8;
python 3.10;
pytorch 2.6.0

所以我选择的二进制文件是:

注意:一般服务器无法翻墙,使用wget url下载速度很慢,可以先在本地机器上挂梯子下载好之后,再传到服务器上。最后只需要执行pip install <文件名>就可以安装成功了。

三、安装mamba_ssm

安装mamba_ssm有两种方式,一个是在github上下载源码,然后pip instal -e .使用开发者模式安装。但是这个过程很慢,而且要求nvcc也符合版本要求。 我们可以直接下载对应版本的编译好的二进制文件,同理安装我的环境我下载的是:

检验mamba是否安装成功

如果causal-conv1d和mamba_ssm都成功安装没有报错,环境配置成功,我们可以检验一下是否配置成功: from mamba_ssm.ops.selective_scan_interface import selective_scan_fn执行这段代码没有报错,并能够点进去查看源码,说明环境配置成功。

相关推荐
User_芊芊君子11 分钟前
【分布式训练】CANN SHMEM跨设备内存通信库:构建高效多机多卡训练的关键组件
分布式·深度学习·神经网络·wpf
聆风吟º21 分钟前
CANN算子开发:ops-nn神经网络算子库的技术解析与实战应用
人工智能·深度学习·神经网络·cann
觉醒大王22 分钟前
强女思维:着急,是贪欲外显的相。
java·论文阅读·笔记·深度学习·学习·自然语言处理·学习方法
笔画人生29 分钟前
# 探索 CANN 生态:深入解析 `ops-transformer` 项目
人工智能·深度学习·transformer
灰灰勇闯IT33 分钟前
领域制胜——CANN 领域加速库(ascend-transformer-boost)的场景化优化
人工智能·深度学习·transformer
小白狮ww37 分钟前
要给 OCR 装个脑子吗?DeepSeek-OCR 2 让文档不再只是扫描
人工智能·深度学习·机器学习·ocr·cpu·gpu·deepseek
island13141 小时前
CANN GE(图引擎)深度解析:计算图优化管线、内存静态规划与异构任务的 Stream 调度机制
开发语言·人工智能·深度学习·神经网络
艾莉丝努力练剑1 小时前
深度学习视觉任务:如何基于ops-cv定制图像预处理流程
人工智能·深度学习
禁默1 小时前
大模型推理的“氮气加速系统”:全景解读 Ascend Transformer Boost (ATB)
人工智能·深度学习·transformer·cann
User_芊芊君子1 小时前
CANN大模型加速核心ops-transformer全面解析:Transformer架构算子的高性能实现与优化
人工智能·深度学习·transformer