【零基础租赁实惠GPU推荐及大语言模型部署教程01】

租赁GPU推荐及大语言模型部署简易教程

1 官网地址

复制代码
AutoDL算力云:https://www.autodl.com/home
AutoDL帮助文档:https://www.autodl.com/docs/
(看我教程,可以直接跳过帮助文档,有更多需求再看帮助文档作为补充)

2 注册账号及登录

复制代码
按图2.1提示注册,登录即可跳转主界面图2.2

图2.1 注册界面

图2.2主界面

3 租用GPU

3.1 充值(不限制充值最低金额,1元亦可)

图3.1充值步骤图

3.2 容器实例(实际就是你租用的GPU电脑)

再通俗具体来讲,租用的是一个GPU电脑的部分给你,和他人共用但又具有隔离性,默认租用后提供的是juypter平台(可运行python代码),如果需要本地VScode或者PyCharm和租用的GPU性能结合起来,可以参考文章开头的帮助文档,也可直接在juypter平台上运行。
不用担心价钱,很便宜,按时计费,用时打开,不用时关闭
注意一点是2个星期以内需要开机一下,否则会清除数据

图3.2.1 租用步骤图1

图3.2.2 租用步骤图2

3.3 选择镜像(选择基础环境:框架版本和Python版本)

基础镜像:当自行构建或者github上的项目复现,可选择基础镜像,根据需要选择框架版本和Python版本。

社区镜像:该平台社区热门的项目,根据需要可以直接选择其环境。

社区地址:https://www.codewithgpu.com/image

图3.3.1 社区项目示例图

图3.3.2 租用步骤图-基础镜像示例选择3( 租用步骤图3)

当还不清楚时直接可以选择示例的镜像,接着学习后续的流程。

3.4租赁成功

图3.4.1租赁成功图

点击图3.4.1租赁成功图中的"关机"按钮,即可关闭,"更多"按钮可选择无卡模式开机,注释见3.5使用技巧说明。

图3.4.2 juypter平台

点击图3.4.1租赁成功图中的蓝色的"JuypterLab"按钮,即可打开。
后续的使用可参考链接快速开始:https://www.autodl.com/docs/quick_start/

图3.4.3 新建ipynb文件示例

使用方面和本地使用juypter平台一样

3.5 使用技巧说明

1.只是传输数据,上传或者下载文件,无卡模式开机运行即可,更便宜;无卡模式开机运行,表示不使用GPU,仅使用CPU。

2.需要分清楚系统盘和数据盘,否则可能会导致内存不足

3.可以同时租多个,下线一定要记得关机,要不然会持续扣费

相关推荐
一次旅行几秒前
AutoAWQ完整实战:MIT激活感知AWQ量化,模型显存减半、推理提速且精度无损
人工智能·python·算法
GrowthDiary00721 分钟前
算法题:寻找二维数组top k问题
数据结构·python·算法
ck-joker32 分钟前
M1 Pro跑LLM实测:Ollama+LangChain4j零成本本地大模型开发,比云端API快在哪?
java·语言模型
极连AI1 小时前
极连AI平台解读、Codex5.6仅需0.01倍率,无需Token焦虑,极速响应
人工智能·gpt·chatgpt·aigc·ai编程·ai写作·gpu算力
丙氨酸長鏈1 小时前
[Bukkit插件开发]手持发射器箭矢机枪 教学文档 面向Python/C#开发者入门Java与Bukkit API
java·python·c#
旋生万物1 小时前
电磁力 = 螺旋联络的 90° 旋转?麦克斯韦方程组的几何重构
人工智能·python·算法·机器学习·copilot·世界模型·物理ai
久久学姐2 小时前
【AI问答】python引入其他模块的对象
python·绝对导入·相对导入·目录结构·模块导入
always_TT2 小时前
【Python requirements.txt 依赖管理】
开发语言·python
Logintern093 小时前
py文件开头为什么需要加:from __future__ import annotations
开发语言·python
bamb003 小时前
一个项目带你入门AI应用开发05
python