探索GpuMall智算云平台的AI云计算:SSH连接GPU云主机进行深度学习

#GpuMall#

#GpuMall智算云# #算力租赁# #ai#

在人工智能和机器学习的领域中,获取强大的计算资源已经成为推进项目进展的关键。随着AI研究的深入,需求对GPU加速的计算能力也在不断提升。GPU云主机、GPU云服务器、GPU闲置、GPU变现、GPU收益、AI云、算力交易平台等在进行模型训练和推理方面扮演着不可替代的角色。借助GPU云平台如智算云,GpuMall等,研究者和开发者可以方便地租用所需算力,或通过出租自己的GPU闲置资源得到收益。在这样的背景下,掌握如何通过本地SSH(Secure Shell)安全连接到云端GPU实例,对于提高工作效率和资源利用率具有重要意义。

  1. 本地SSH方式连接实例

通过SSH登录GPUMALL实例介绍

通过 SSH 方式连接到 Linux 服务器的方法有多种,这里介绍几种常用的 SSH 远程登录工具,只需要使用其中一种可以登录到 GpuMall 实例即可。

Windows系统可以使用:XShell、Mobaxterm、FinalShell 以及 CRT 和 Win11 中自带的终端。

MacOS 系统可以使用:Iterm2、FinalShell、MacOS 自带终端、Termius等等,根据自己喜好选择即可。

2.XShell 连接 GpuMall 实例

下载XSHELL,XSHELL仅支持WINDOWS版本

Windows

下载 XShell

  1. 安装SSH后并打开,然后单击新建
  1. 到 GpuMall 控制台 -> 个人空间 -> 实例管理,找到对应实例的 登录,然后复制 登录指令 与 登录密码

复制后粘贴到任意文件中,内容如下

登录指令:ssh -p 11111 root@xxxxxxxx.gpumall.com

登录密码:xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx

命令拆解如下:

实例SSH主机:xxxxxxxx.gpumall.com

实例SSH端口:11111

实例登录用户名:root

实例登录密码:xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx

然后把以上对应信息复制到下图中对应框中

1号标记填入这个SSH会话的名称,可自定义

2号标记填入您实例对应的SSH主机

3号标记填入您实例对应的端口号

4号标记去填写实例用户名和密码

然后点击确定

3.输入用户名以及对应的密码,然后确定

4.双击添加的SSH回话,然后接受并保存

5.双击创建完成的会话即可登录实例

Mobaxterm 连接 GpuMall 实例 [++++​++++](#Mobaxterm 连接 GpuMall 实例)

下载MOBAXTERM,MOBAXTERM仅支持WINDOWS版本

  • Windows

下载 Mobaxterm

1.按照1号标记点击Session

2. 然后到 GpuMall 控制台 -> 个人空间 -> 实例管理,找到对应实例的 登录**,然后复制** 登录指令登录密码

复制后粘贴到任意文件中,内容如下

登录指令:ssh -p 11111 root@xxxxxxxx.gpumall.com
登录密码:xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx

命令拆解如下:
实例SSH主机:xxxxxxxx.gpumall.com
实例SSH端口:11111
实例登录用户名:root
实例登录密码:xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx

然后把以上对应信息复制到上图中对应框中

  1. 1号标记点击SSH来配置SSH连接
  2. 2号标记填入您实例对应的SSH主机
  3. 3号标记选中Specify username来指定用户名
  4. 4号标记填上面的实例登录用户名
  5. 5号标记填入上面实例SSH端口
  6. 6号标记点击下方OK

3.选中1号标记,点击Accept允许

4.输入实例登录密码

5.点击1号标记不再弹出消息,2号标记记住密码

FinalShell 连接 GpuMall 实例 [++++​++++](#FinalShell 连接 GpuMall 实例)

下载FINALSHELL

  • Windows
  • macOS
  • Linux

下载 macOS 版本

这里使用 macOS 版本进行演示

1.打开FinalShell后进行创建新的连接

2. 然后到 GpuMall 控制台 -> 个人空间 -> 实例管理,找到对应实例的 登录**,然后复制** 登录指令登录密码

复制后粘贴到任意文件中,内容如下

登录指令:ssh -p 11111 root@xxxxxxxx.gpumall.com
登录密码:xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx

命令拆解如下:
实例SSH主机:xxxxxxxx.gpumall.com
实例SSH端口:11111
实例登录用户名:root
实例登录密码:xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx

3.把对应信息填入FinalShell中

然后把以上对应信息复制到上图中对应框中

  1. 1号标记填入一个自定义名称
  2. 2号标记填入您实例对应的SSH主机
  3. 3号标记填入上面实例SSH端口
  4. 4号标记填上面的实例登录用户名
  5. 5号标记填入实例登录密码
  6. 6号标记点击下方确定
  1. 点击创建好的ssh连接
  1. 接受并保存密钥

成功登录实例

MacOS 自带终端 连接 GpuMall 实例 [++++​++++](#MacOS 自带终端 连接 GpuMall 实例)

1. macOS 系统启动台找到终端,或者通过 command**+** 空格键,搜索终端

2. 到 GpuMall 控制台 -> 个人空间 -> 实例管理,找到对应实例的 登录**,然后复制** 登录指令登录密码

复制后粘贴到任意文件中,内容如下

登录指令:ssh -p 11111 root@xxxxxxxx.gpumall.com
登录密码:xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx

命令拆解如下:
实例SSH主机:xxxxxxxx.gpumall.com
实例SSH端口:11111
实例登录用户名:root
实例登录密码:xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx

3.直接把登录指令以及登录密码粘贴到终端

提示

  1. 1号标记粘贴登录指令
  2. 2号标记粘贴登录密码

然后回车即可登录实例

MacOS Iterm2 连接 GpuMall 实例 [++++​++++](#MacOS Iterm2 连接 GpuMall 实例)

下载ITERM2

  • macOS

下载 Iterm2

1. macOS 系统启动台找到 Iterm2,或者通过 command**+** 空格键,搜索 Iterm2

2. 到 GpuMall 控制台 -> 个人空间 -> 实例管理,找到对应实例的 登录**,然后复制** 登录指令登录密码

复制后粘贴到任意文件中,内容如下

登录指令:ssh -p 11111 root@xxxxxxxx.gpumall.com
登录密码:xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx

命令拆解如下:
实例SSH主机:xxxxxxxx.gpumall.com
实例SSH端口:11111
实例登录用户名:root
实例登录密码:xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx

3.直接把登录指令以及登录密码粘贴到终端

提示

  1. 1号标记粘贴登录指令
  2. 2号标记粘贴登录密码

然后回车即可登录实例

使用 SSH 密钥登录实例 [++++​++++](#使用 SSH 密钥登录实例)

SSH密钥是什么 ++++​++++

SSH 默认采用密码登录,这种方法有很多缺点,简单的密码不安全,复杂的密码不容易记忆,密钥登录是更好的解决方案,使用密钥登录同时可以提高实例的安全性。

SSH 密钥登录采用的是非对称加密,每个用户通过自己的密钥登录,其中私钥必须私密保存,不能泄漏;公钥则是公开的,可以对外发送。它们的关系是,公钥和私钥是一一对应的,每一个私钥都有且仅有一个对应的公钥,反之亦然。 如果数据使用公钥加密,那么只有使用对应的私钥才能解密,其他密钥都不行;反过来,如果使用私钥加密(这个过程一般称为"签名"),也只有使用对应的公钥解密。

密钥登录的过程

SSH 密钥登录分为以下的步骤。

  1. 预备步骤,客户端通过ssh-keygen或者SSH工具生成自己的公钥和私钥。
  2. 手动将客户端的公钥放入远程服务器的指定位置。
  3. 客户端向服务器发起 SSH 登录的请求。
  4. 服务器收到用户 SSH 登录的请求,发送一些随机数据给用户,要求用户证明自己的身份。
  5. 客户端收到服务器发来的数据,使用私钥对数据进行签名,然后再发还给服务器。
  6. 服务器收到客户端发来的加密签名后,使用对应的公钥解密,然后跟原始数据比较,如果一致,就允许用户登录。

本地电脑生成密钥 ++++​++++

Windows 桌面右键打开终端,或者打开 CMD 命令行,然后生成密钥

MacOS 系统使用 终端或者 iterm2 工具进行生成,命令与下方一致

执行 ssh-keygen -t rsa - b 4096 进行本地电脑密钥生成

PS C:\> ssh-keygen -t rsa -b 4096
Generating public/private rsa key pair.
Enter file in which to save the key (C:\Users\Administrator/.ssh/id_rsa):
Created directory 'C:\Users\Administrator/.ssh'.
Enter passphrase (empty for no passphrase): #直接敲回车
Enter same passphrase again: #直接敲回车
Your identification has been saved in C:\Users\Administrator/.ssh/id_rsa. #生成的本地电脑私钥位置
Your public key has been saved in C:\Users\Administrator/.ssh/id_rsa.pub. #生成的本地电脑公钥位置,复制该路径,下面需要查看该公钥内容
The key fingerprint is:
SHA256:A5a+48LNoHEidLAHGYUYaW4d/1m98Hun1V76LTgtOT0 Administrator@Administrator
The key's randomart image is:
+---[RSA 4096]----+
|o+=. |
|o* . . |
|o = o + . |
| = + + . o . |
|o o o S o . |
|. o o + . o .|
| . * +o .= .o|
| . o.o. .*.E+o|
| .. .=+++|
+----[SHA256]-----+

查看生成的公钥内容并复制

查看生成的公钥内容

PS C:\> cat C:\Users\Administrator/.ssh/id_rsa.pub.
ssh-rsa AAAAB3NzaC1yc2EAAAADAQABAAACAQDEOOeSSTM7vMu2SDm42G5oUwW6ApNaDUp77JNT47q0DbhoJ4kcVwKRxzoTdp+xT4d4RHPkSu/9RRgD5V/s+oE6AmyRMjMPIjb7svdBabxlze7c4OY7LzGX2+g7B9Ghh6KY7OQG6DkvYoKSdbfWNfMZ3aLVrU/37DpfwtCJRujdB3eNGP8wef5HXlNbgXweAnQ74G+H8k3l6zyqN2IiFrnfXA2uBIpgXFdon/RG8+exG9obEogNmiAC77nrJnvvofVSX2tXdcK5KufzudZKlyE3OCuCCZNqs1u85qlMz/Deg1aoRSr7gsKdMdya1r5wGQi5Ur7NSp8pOsk0Ff/udNGB5bC/51o4bZgTklZrSSbwd2ahFYV9mXSFmp3Z/bYZO7qLHJfi1X18svvBsEjJ1AspstbTO+QTXpw8+MFTwveaUFVaPCPBru7fOpMiF7e2W5ZMc2XRUhFhD6welTSIEzhukU3SxA5Yzr8p2WpWrxwOCkANLJYRUVVOwOQWAMJJK1CKbVe+7j3OA Administrator@Administrator

将本地公钥配置到平台 ++++​++++

登录 GpuMall 平台将本地公钥填入平台

点击 个人空间 -》 账户中心 -》添加 -》 然后把上面生成的公钥输入进去,然后点击确定。

如下为添加后的显示

创建实例并通过密钥登录(终端方式) ++++​++++

提示

添加密钥后只有创建的新实例才可以进行密钥登录,在添加密钥之前创建的实例无法进行密钥登录。

创建实例方式参考 ++++创建实例++++

实例创建后在终端(windows在终端,macos可以在终端或者iterm2)里进行登录密钥进行登录,参考下面内容,可以免密码直接登录到实例中

PS C:\> ssh -p 60185 root@xxxxxxxxxx.gpumall.com

创建实例并通过密钥登录(XShell方式) ++++​++++

提示

添加密钥后只有创建的新实例才可以进行密钥登录,在添加密钥之前创建的实例无法进行密钥登录。

创建实例方式参考 ++++创建实例++++

打开XShell,然后新建一个连接,按照一下顺序输入对应内容

然后点击第五步 用户身份验证,输入用户名,选择Public key方式。

点击 工具 -》 用户密钥管理者

选择导入

在地址框中,输入前面生成密钥的路径,然后选择id_rsa(私钥)进行打开

导入私钥到 XShell 中,让 Xshell 进行管理,成功后如下所示

双击左侧添加的机器就可以进行密钥登录

当您不使用GPU实例时,可以通过算力交易平台将其出租,让算力变现和收益。您还可以通过竞价实例来最大化成本效益,通过智能调度确保资源不会闲置。

通过上述的步骤,即使是在本地环境中,开发者也能够轻松利用远端的GPU云资源,提升AI项目开发和计算效率,并可以加入算力生态,实现资源的最优化利用。欢迎关注我们的官网:https://gpumall.com/index进一步将为您提供更多开发者工具和示例。

相关推荐
是十一月末7 分钟前
Opencv实现图片的边界填充和阈值处理
人工智能·python·opencv·计算机视觉
机智的叉烧40 分钟前
前沿重器[57] | sigir24:大模型推荐系统的文本ID对齐学习
人工智能·学习·机器学习
凳子花❀43 分钟前
强化学习与深度学习以及相关芯片之间的区别
人工智能·深度学习·神经网络·ai·强化学习
正在走向自律1 小时前
阿里云ESC服务器一次性全部迁移到另一个ESC
服务器·阿里云·云计算
泰迪智能科技012 小时前
高校深度学习视觉应用平台产品介绍
人工智能·深度学习
盛派网络小助手3 小时前
微信 SDK 更新 Sample,NCF 文档和模板更新,更多更新日志,欢迎解锁
开发语言·人工智能·后端·架构·c#
Eric.Lee20213 小时前
Paddle OCR 中英文检测识别 - python 实现
人工智能·opencv·计算机视觉·ocr检测
cd_farsight3 小时前
nlp初学者怎么入门?需要学习哪些?
人工智能·自然语言处理
AI明说3 小时前
评估大语言模型在药物基因组学问答任务中的表现:PGxQA
人工智能·语言模型·自然语言处理·数智药师·数智药学
Focus_Liu4 小时前
NLP-UIE(Universal Information Extraction)
人工智能·自然语言处理