MindSpore Transformers套件的目标是构建一个大模型训练、微调、评估、推理、部署的全流程开发套件，提供业内主流的Transformer类预训练模型和SOTA下游任务应用，涵盖丰富的并行特性。期望帮助用户轻松的实现大模型训练和创新研发。
MindSpore Transformers套件基于MindSpore内置的并行技术和组件化设计，具备如下特点：
- 一行代码实现从单卡到大规模集群训练的无缝切换；
- 提供灵活易用的个性化并行配置；
- 能够自动进行拓扑感知，高效地融合数据并行和模型并行策略；
- 一键启动任意任务的单卡/多卡训练、微调、评估、推理流程；
- 支持用户进行组件化配置任意模块，如优化器、学习策略、网络组装等；
- 提供Trainer、pipeline、AutoClass等高阶易用性接口；
- 提供预置SOTA权重自动下载及加载功能；
- 支持人工智能计算中心无缝迁移部署；
- 安装
在Linux Ubuntu环境下先安装git
sudo apt install git
获取mindformers
git clone -b r1.1.0 https://gitee.com/mindspore/mindformers.git
进入目录执行脚本
cd mindformers
bash build.sh
这个脚本需要安装python的setuptools库，运行链接中的命令
No module named 'distutils.cmd_no module named 'distutils.cmd-CSDN博客
sudo apt-get install python3.7-distutils 3.7
Python版本至少要3.7，我建议安装3.9
Ubuntu升级Python至3.7_apt-get 更新python3.7-CSDN博客
python3
键入"exit()"回到正常命令行模式
build.h可能会报错ERROR: Invalid requirement: 'mindformers*whl'
把脚本里面的python改成python3
按下Esc后键入":wq!"保存退出
再次运行
bash build.sh
成功运行，安装完毕。
有时候需要Python不同版本，注意python3和python不一样。我记得也是可以配置的。
whereis python3
rm /usr/bin/python3
ln -s /usr/bin/python3.9 /usr/bin/python3
如果是3.9
sudo apt-get install python3.9-distutils 3.9