finetuning大模型准备(基于Mac环境)

为finetuning进行的热身准备,涉及周边的软件工具,方法。

问题1:finetuning过程较长,采用系统自带命令行没有后台,前台被杀后,容易造成训练失败。

解决方法: tmux可以开启后台训练

问题2:大模型训练过程会有几个G 的bin等文件,不宜下载频繁

解决方法:Git LFS可以进行git屏蔽和指定文件下载

1. tmux

1.1 安装:

brew install tmux

1.2 启动

启动:tmux

1.3 查看已创建的会话

1.4 分屏

①ctrl + B 松开

②shift + %

1.5 分屏后的窗口中的光标互相切换

快捷键:先按ctrl+b, 放开后再按下o

1.6 新建session

tmux new -s Session-name

1.7 进入一个已知会话

tmux a -t Session-name

1.8 关闭会话

tmux kill-session -t Session-name

2.Git LFS

Git LFS(Large File Storage)是一个用于版本控制系统中管理大文件(如视频、图形或大型数据文件)的扩展

以chatglm3-6b模型为例,如下:

很多1个多G的文件着实很大。每次下载都需要把不同分支的内容下载下来,内容会非常大,浪费时间。lfs是个不错的选择。

2.1 lfs安装

git lfs install

2.2 配置lfs 克隆

GIT_LFS_SKIP_SMUDGE=1 git clone <repository-addr>

即时git pull 也不会把大文件拉下来。

2.3 指定匹配对象

git lfs fetch --include 命令允许你指定要下载的LFS对象的路径模式。这意味着你可以选择只下载与给定模式匹配的LFS对象,而不是下载整个仓库的所有LFS对象。

这个命令会下载与指定模式匹配的所有LFS对象,并将其存储在本地LFS缓存中。

2.4 下载

git lfs checkout用于将 LFS 追踪的大文件从远程存储库下载到本地工作副本

工欲善其事,必先利其器

开始训练:

相关推荐
医学影像处理10 天前
tmux旧版本配置鼠标滑动页面| tmux运行时如何让新的配置文件生效
centos·计算机外设·tmux
ShCDNay1 个月前
Tmux常用操作--云GPU版
linux·ubuntu·tmux
我想学LINUX2 个月前
一文带你掌握 tmux -- 高效的终端复用工具
linux·嵌入式硬件·嵌入式·策略模式·tmux·tmux命令
陌上阳光5 个月前
tmux工具使用鼠标滚动窗口及分屏命令
linux·数据库·tmux
追道者7 个月前
vim与tmux配置文件及常用命令总结
linux·vim·tmux
풍殇い^κ7 个月前
byobu
linux·tmux·byobu·终端复用
秋千无闻10 个月前
win10 使用wezterm替代tmux
win10·tmux·wezterm
JimmyFun10 个月前
Ubuntu服务器上使用tmux
linux·服务器·ubuntu·tmux
极智视界1 年前
记录 | ubuntu tmux的安装配置
linux·ubuntu·tmux·终端管理