昇思大模型——MindFormers的使用----从零开始安装配置环境

MindSpore Transformers套件的目标是构建一个大模型训练、微调、评估、推理、部署的全流程开发套件,提供业内主流的Transformer类预训练模型和SOTA下游任务应用,涵盖丰富的并行特性。期望帮助用户轻松的实现大模型训练和创新研发。

MindSpore Transformers套件基于MindSpore内置的并行技术和组件化设计,具备如下特点:

  • 一行代码实现从单卡到大规模集群训练的无缝切换;
  • 提供灵活易用的个性化并行配置;
  • 能够自动进行拓扑感知,高效地融合数据并行和模型并行策略;
  • 一键启动任意任务的单卡/多卡训练、微调、评估、推理流程;
  • 支持用户进行组件化配置任意模块,如优化器、学习策略、网络组装等;
  • 提供Trainer、pipeline、AutoClass等高阶易用性接口;
  • 提供预置SOTA权重自动下载及加载功能;
  • 支持人工智能计算中心无缝迁移部署;

昇思大模型平台 (mindspore.cn)

mindformers: MindSpore Transformers套件的目标是构建一个大模型训练、推理、部署的全流程套件: 提供业内主流的Transformer类预训练模型, 涵盖丰富的并行特性。 期望帮助用户轻松的实现大模型训练。 文档:https://mindformers.readthedocs.io/zh-cn/latest/ (gitee.com)

  1. 安装

在Linux Ubuntu环境下先安装git

复制代码
sudo apt install git

获取mindformers

复制代码
git clone -b r1.1.0 https://gitee.com/mindspore/mindformers.git

进入目录执行脚本

复制代码
cd mindformers

bash build.sh

这个脚本需要安装python的setuptools库,运行链接中的命令

No module named 'distutils.cmd_no module named 'distutils.cmd-CSDN博客

复制代码
sudo apt-get install python3.7-distutils   3.7

Python版本至少要3.7,我建议安装3.9

Ubuntu升级Python至3.7_apt-get 更新python3.7-CSDN博客

复制代码
python3

键入"exit()"回到正常命令行模式

build.h可能会报错ERROR: Invalid requirement: 'mindformers*whl'

把脚本里面的python改成python3

按下Esc后键入":wq!"保存退出

再次运行

复制代码
bash build.sh

成功运行,安装完毕。

有时候需要Python不同版本,注意python3和python不一样。我记得也是可以配置的。

复制代码
whereis python3
rm /usr/bin/python3
ln -s /usr/bin/python3.9 /usr/bin/python3

如果是3.9

复制代码
sudo apt-get install python3.9-distutils   3.9
相关推荐
OJAC近屿智能15 分钟前
新增29个专业,科技成为未来主赛道!
人工智能·科技·ai·机器人·aigc·近屿智能
硅谷秋水19 分钟前
π0.5:带开放世界泛化的视觉-语言-动作模型
人工智能·机器学习·计算机视觉·语言模型
搏博27 分钟前
机器学习之三:归纳学习
人工智能·深度学习·学习·机器学习
一个天蝎座 白勺 程序猿35 分钟前
Python爬虫(8)Python数据存储实战:JSON文件读写与复杂结构化数据处理指南
爬虫·python·json
算家云38 分钟前
AI音频核爆!Kimi开源“六边形战士”Kimi-Audio,ChatGPT语音版?
人工智能·音视频·kimi·算家云·kimi-audio·租算力,到算家云
说私域41 分钟前
颠覆传统微商!开源AI智能名片链动2+1模式S2B2C商城小程序:重构社交电商的“降维打击”革命
人工智能·小程序·开源·零售
小赖同学啊1 小时前
Unreal Engine 实现智慧水库周边环境以及智慧社区模拟的实例
人工智能·游戏引擎·虚幻
Tech Synapse1 小时前
打造企业级AI文案助手:GPT-J+Flask全栈开发实战
人工智能·gpt·flask
q_q王1 小时前
dify对接飞书云文档,并且将图片传入飞书文档
python·大模型·飞书·dify·智能体·图片展示
noravinsc1 小时前
django filter 排除字段
后端·python·django