训练CDN基础代码

文章目录

时间

从开始在平台上搭建到现在可以在平台上训练已经4天了

有GPU平台一般是autoDL平台,白嫖200元平台是:https://cloud.lanyun.net/

整体流程

1.注册平台,以蓝耘为例子

卡从好变坏依次是:4090>3090>3080

2.选择好适当的版本后,租用

一般上传数据和代码的时候用"无卡开机模式",比较省钱

配置环境,如果不需要自己配置环境的话,那么也是无卡开机模式

3.上传数据

点击共享网盘,绑定阿里云盘,用阿里云盘上传数据集,快一点

4.ssh登录pycharm专业版

注意:一定是pycharm专业版也可以使用ssh远程登录

参考链接:AutoDL使用教程:1)创建实例 2)配置环境+上传数据 3)PyCharm2021.3专业版下载安装与远程连接完整步骤 4)实时查看tensorboard曲线情况

后续pycharm可以写,在官网上面也可以直接修改,一般修改路径,运行的时候输入

python main.py --你所需要的参数,即可以直接运行。

训练细节

1.后台运行:

参考链接:https://blog.csdn.net/weixin_57070738/article/details/137378235

bash 复制代码
nohup python -u main.py > /root/lanyun-tmp/output.log 2>&1 &

2.训练完成后关机

bash 复制代码
--a ddd --b ddd --r ss && shutdown

3.训练时间

一个epoch是12min(20min)

我一共设置了90个epoch,那么就是1080min(1800分钟),那就是30h,我是下午4:30开始训练的,那么第二天的9:30就可以结束。

一个小时3元,总共花费:90元

加上配置环境:总共花费100元

小结

失误点:

1.数据集上传慢

不用其他软件,推荐用阿里云盘,如果直接用压缩包,解压命令如下:

bash 复制代码
# 压缩。如果没有zip命令,安装命令:apt-get update && apt-get install -y zip
zip -r <自定义压缩包名称>.zip <待压缩目录的路径>

# 解压。如果没有zip命令,安装命令:apt-get update && apt-get install -y unzip
unzip  <待解压压缩包名称>.zip -d <解压到哪个路径>

我的就是

python 复制代码
unzip train.zip -d /images

压缩包在:/root/lanyun-tmp

生成的就是:/root/lanyun-tmp/images

2.ssh登录

都要勾选,以及下面这个同步文件可以自己选,比如:/root/wintest

平台上一般都要选择/root,也就是根目录下,这里没有wintest文件夹都可以系统会自己创建一个wintest文件夹。

创建好了以后进入JupyterLab,等文件都传输到JupyterLab后才会出现,慢慢等,不着急,文件越多传输越慢。

pycharm专业版会提示你正在上传,上传结束后会提示你上传成功,我一开始在代码里面放置了数据集,一共15G所以才这么慢,所以代码和数据集分开,数据集用阿里云盘传输,代码上传。

3.代码的路径要设置成平台的路径

/root/lanyun-tmp/images,举一个例子

运行的时候路径也要设置成平台的路径

相关推荐
飞哥数智坊9 小时前
GPT-5-Codex 发布,Codex 正在取代 Claude
人工智能·ai编程
倔强青铜三9 小时前
苦练Python第46天:文件写入与上下文管理器
人工智能·python·面试
虫无涯10 小时前
Dify Agent + AntV 实战:从 0 到 1 打造数据可视化解决方案
人工智能
Dm_dotnet12 小时前
公益站Agent Router注册送200刀额度竟然是真的
人工智能
算家计算12 小时前
7B参数拿下30个世界第一!Hunyuan-MT-7B本地部署教程:腾讯混元开源业界首个翻译集成模型
人工智能·开源
机器之心13 小时前
LLM开源2.0大洗牌:60个出局,39个上桌,AI Coding疯魔,TensorFlow已死
人工智能·openai
Juchecar14 小时前
交叉熵:深度学习中最常用的损失函数
人工智能
林木森ai14 小时前
爆款AI动物运动会视频,用Coze(扣子)一键搞定全流程(附保姆级拆解)
人工智能·aigc
聚客AI14 小时前
🙋‍♀️Transformer训练与推理全流程:从输入处理到输出生成
人工智能·算法·llm
BeerBear16 小时前
【保姆级教程-从0开始开发MCP服务器】一、MCP学习压根没有你想象得那么难!.md
人工智能·mcp