昇思学习营-Deepseek-r1-distill-qwen-1.5b模型开发与适配课程内容和学习心得

Deepseek-r1-distill-qwen-1.5b介绍

Deepseek-v3和r1的版本通过8张141张nvidia h200 gpu进行训练,训练和运行成本高,为节约成本,deepseek推出蒸馏板模型,基于r1版本的模型生成的高质量推理数据,在小模型上进行监督微调(sft,无强化学习或者偏好对齐训练阶段),具体过程如下:

  1. 选用 Llama 3.1/3.3 和 Qwen 2.5 的 6 个开源模型
  2. 用 R1 生成 80 万条高质量推理数据
  3. 基于这些数据进行监督微调(SFT,无 RL 阶段)

DeepSeek-R1-Distill-Qwen-1.5B在香橙派上的开发与适配

其中由于香橙派的板有8-12T和20T不同的算力版本,因此价格也是不同的,部署及开发人员根据自身的情况选择合适的板子进行开发。

详细的配置教学可以扫下面的二维码;

香橙派板子调试前的环境准备工作

版本查看:

香橙派板子的Mindspore版本查看:

通过mindspore官网的命令来升级

Mindnlp版本:

香橙派板子模型及网络调试(查看当前板子是否能够支持模型的运行)

模型调试命令如下:

MindSpore NLP套件中有针对模型的ut测试,可通过pytest来测试模型在香橙派的训练和推理,并进行问题定位和调试

设置环境变量:

export RUN_SLOW=True

执行命令:

Pytest -v -s tests/transformers/models/qwen2/test_modeling_qwen2.py

由于MindSpore动态图下框架存在多线程异步⾏为,所以会出现python调⽤栈不准确的场景,为了精准定位在test_modeling_qwen2.py脚本中import mindspore之后的位置,加入如下代码,重新跑pytest,查看具体的报错位置并根据报错信息修改 :

mindspore.set_context(pynative_synchronize=True)

对香橙派板子调试模型时报错的一些处理案例

针对算子缺失的处理方式及在实际工程文件中修改对应代码

针对损失函数报错的处理方式

针对香橙派上Tensor索引/切片报错的处理方式

学习心得:

  1. 对于香橙派上面训练和运行的deepseek蒸馏版本模型的方式有初步的了解。
  2. 对香橙派板子调试前的部署流程有初步认识。
  3. 对香橙派板子上面部署及测试mindspore有初步了解,及对部分异常及错误处理有明确认识。
相关推荐
诗句藏于尽头1 小时前
游戏《完美神话》-使用Ai-agent进行修复已停服游戏到本地成功部署以及GM端网页完整教程
人工智能·学习·游戏
希和20271 小时前
51 单片机学习笔记:LCD1602、独立按键、I2C 与 AT24C02 掉电存储(江科大课程小白笔记)
笔记·单片机·学习
承渊政道1 小时前
【Python编程—从入门到实践】(设置样式并部署:给Django网站换新装,把学习笔记发布到互联网)
python·学习·pycharm·django
~kiss~13 小时前
A Survey of On-Policy Distillation for LLMs 学习(一)
学习
小杨小杨、努力变强!15 小时前
python学习笔记
笔记·学习
Star(up up up)20 小时前
Redis Windows 安装教程:使用Windows 的 Redis 压缩包
redis·笔记·学习·程序人生·云原生·学习方法·改行学it
乌暮1 天前
Spring AOP 与 Spring 事务:用大白话彻底理解原理与实践
java·数据库·spring boot·后端·sql·学习·spring
蒸蒸yyyyzwd1 天前
从邓明学习的后端笔记
笔记·学习
机器学习之心1 天前
基于变量相关图与残差学习的 GCN 多变量回归方法——混凝土 28 天抗压强度预测
学习·回归·gcn
Rabitebla2 天前
【Linux】进程控制(十二) 自定义 Shell(二):内建命令与进程工作目录管理
linux·c++·笔记·学习·bash