【零基础租赁实惠GPU推荐及大语言模型部署教程01】

租赁GPU推荐及大语言模型部署简易教程

1 官网地址

复制代码
AutoDL算力云:https://www.autodl.com/home
AutoDL帮助文档:https://www.autodl.com/docs/
(看我教程,可以直接跳过帮助文档,有更多需求再看帮助文档作为补充)

2 注册账号及登录

复制代码
按图2.1提示注册,登录即可跳转主界面图2.2

图2.1 注册界面

图2.2主界面

3 租用GPU

3.1 充值(不限制充值最低金额,1元亦可)

图3.1充值步骤图

3.2 容器实例(实际就是你租用的GPU电脑)

再通俗具体来讲,租用的是一个GPU电脑的部分给你,和他人共用但又具有隔离性,默认租用后提供的是juypter平台(可运行python代码),如果需要本地VScode或者PyCharm和租用的GPU性能结合起来,可以参考文章开头的帮助文档,也可直接在juypter平台上运行。
不用担心价钱,很便宜,按时计费,用时打开,不用时关闭
注意一点是2个星期以内需要开机一下,否则会清除数据

图3.2.1 租用步骤图1

图3.2.2 租用步骤图2

3.3 选择镜像(选择基础环境:框架版本和Python版本)

基础镜像:当自行构建或者github上的项目复现,可选择基础镜像,根据需要选择框架版本和Python版本。

社区镜像:该平台社区热门的项目,根据需要可以直接选择其环境。

社区地址:https://www.codewithgpu.com/image

图3.3.1 社区项目示例图

图3.3.2 租用步骤图-基础镜像示例选择3( 租用步骤图3)

当还不清楚时直接可以选择示例的镜像,接着学习后续的流程。

3.4租赁成功

图3.4.1租赁成功图

点击图3.4.1租赁成功图中的"关机"按钮,即可关闭,"更多"按钮可选择无卡模式开机,注释见3.5使用技巧说明。

图3.4.2 juypter平台

点击图3.4.1租赁成功图中的蓝色的"JuypterLab"按钮,即可打开。
后续的使用可参考链接快速开始:https://www.autodl.com/docs/quick_start/

图3.4.3 新建ipynb文件示例

使用方面和本地使用juypter平台一样

3.5 使用技巧说明

1.只是传输数据,上传或者下载文件,无卡模式开机运行即可,更便宜;无卡模式开机运行,表示不使用GPU,仅使用CPU。

2.需要分清楚系统盘和数据盘,否则可能会导致内存不足

3.可以同时租多个,下线一定要记得关机,要不然会持续扣费

相关推荐
许泽宇的技术分享27 分钟前
AgentFramework: 安全最佳实践
python·安全·flask
小鸡吃米…28 分钟前
Python - JSON
开发语言·python·json
我的xiaodoujiao40 分钟前
使用 Python 语言 从 0 到 1 搭建完整 Web UI自动化测试学习系列 34--基础知识 9--文件上传功能
前端·python·测试工具·ui·pytest
咸鱼加辣43 分钟前
【python面试】Python 的 lambda
javascript·python·算法
感谢地心引力1 小时前
【AI】加入AI绘图的视频封面快速编辑器
人工智能·python·ai·ffmpeg·音视频·pyqt·gemini
我一定会有钱1 小时前
pytest测试框架基础
python·单元测试·自动化·pytest
cr_每天进步一点点1 小时前
【无标题】
人工智能·python·机器学习
我的xiaodoujiao1 小时前
使用 Python 语言 从 0 到 1 搭建完整 Web UI自动化测试学习系列 35--二次封装MySQL数据库连接操作
python·学习·测试工具·pytest
DechinPhy1 小时前
使用Python免费合并PDF文件
开发语言·数据库·python·mysql·pdf
驾数者1 小时前
Flink SQL自定义函数开发:标量、聚合、表值函数实现
python·sql·flink