政安晨的AI大模型训练实践三:熟悉一下LF训练模型的WebUI

政安晨的个人主页:************政安晨****************

欢迎 👍点赞✍评论⭐收藏

希望政安晨的博客能够对您有所裨益,如有不足之处,欢迎在评论区提出指正!

目录

启动WebUI

微调模型


LLaMA-Factory 支持通过 WebUI 零代码微调大语言模型。


启动WebUI

打开前两篇我们创建的conda虚拟环境之后,输入命令:

复制代码
llamafactory-cli webui

这样就启动了LLaMA Factory的webui页面:

如果您在 Hugging Face 模型和数据集下载中遇到了问题,可以通过下述方法使用魔搭社区。

export USE_MODELSCOPE_HUB=1

Windows 使用set USE_MODELSCOPE_HUB=1

将 model_name_or_path 设置为模型 ID 来加载对应的模型。

在魔搭社区查看所有可用的模型,例如 LLM-Research/Meta-Llama-3-8B-Instruct。

您也可以通过下述方法,使用魔乐社区下载数据集和模型。

export USE_OPENMIND_HUB=1

Windows 使用set USE_OPENMIND_HUB=1

将 model_name_or_path 设置为模型 ID 来加载对应的模型。

在魔乐社区查看所有可用的模型,例如 TeleAI/TeleChat-7B-pt。

当然,设置了环境变量之后,重启环境,以使上面这个设置生效。

如果再下载过程中出现错误,有可能是您没有安装相应的工具:

复制代码
pip install modelscope>=1.11.0

安装好工具后,再重新启动工具:

在webUI中执行加载模型:

在命令行后台中可以看到下载的状态如下:

下载完成后,可以看到加载成功:

如果本地空间出现一些问题,可以在这里修改模型路径,重新下载:

这里我把模型地址修改为:/home/tongyuzhou/aigc2/Llama-3/Llama-3.2-1B

然后重新加载(把刚刚下载的模型拷贝到这里),重新加载即可。

如果过程中出现失败,重新启动整套环境再尝试,默认路径不要修改才会自动加载,修改了之后就会从该地址加载模型了,如果该路径下没有模型就会报错。

微调模型

在这里可以微调数据:

可以选择一个数据集尝试:

预览一下:

可以直接点击这里完成训练:


本篇仅仅是个预览,接下来,我会带着大家仔仔细细地做一遍。

相关推荐
汤姆宝库3 分钟前
蒸馏与小模型深拆:软标签、轨迹搬运与能力电网
人工智能·ai
poiu12346576 分钟前
使用AI辅助学习与资料整理的个人体会
人工智能·学习
清华kenny8 分钟前
美业经营者如何筛选中医健康系统?避坑与推荐
大数据·人工智能·安徽晓得养
4SAPI14 分钟前
电商全链路内容自动化生成大模型 API 生产选型指南:4SAPI、硅基流动与 OpenRouter 的架构权衡
运维·人工智能·架构·自动化·1024程序员节
2601_9654490815 分钟前
AI视频制作:做文物视频,青铜器瓷器的图难找,AI怎么自动扒文物素材?
人工智能·音视频
happylifetree21 分钟前
Python72:核心语法-类型注解-函数的类型注解
python
LUSTER凌云光21 分钟前
最高146kHz行频,RGB+NIR同步成像:高速多光谱线阵相机如何提升工业检测效率?
人工智能
shxjnpl22 分钟前
粤语医患对话如何转成电子病历?从方言 ASR 到端侧离线语音处理
人工智能·语音识别·实时音视频
段一凡-华北理工大学23 分钟前
高炉能源系统智能化:热风炉、煤气与极致能效~系列文章04:智能烧炉:燃烧控制与空燃比优化的实战逻辑
人工智能·能源·高炉机器视觉·高炉能源优化·热风炉智能控制
liudachu26 分钟前
Agent 开发常见名词说明与类比
python·langchain