书生.浦江大模型实战训练营——(一)InternStudio+Vscode SSH连接远程服务器+Linux基础指令

最近在学习书生.浦江大模型实战训练营,所有课程都免费,以关卡的形式学习,也比较有意思,提供免费的算力实战,真的很不错(无广 )!欢迎大家一起学习,打开LLM探索大门:邀请连接PS,邀请有算力哈哈

文章目录

一、InternStudio使用

首先登录InternStudio的首页,第一次登录的时候要输入一次邀请码,如果填写了上面的邀请链接,邮箱会收到一份邀请码,填入即可登录。登录InterStudio的主页如下显示:

点击创建开发机,输入开发机名称,我这是第一个任务,我取名为Onetest,命名无所谓,镜像选择cuda12.2,GPU选择10%的A100,点击立即创建即可。这个过程很类似于AutoDL的创建过程。

创建完成后,根据排队的人数,可能要等几分钟,然后点击进入开发机即可进入。

进入之后,界面也是非常清晰简单,左上角有三个可选项,分别是jupyter notebook,Terminal终端和vscode网页版,可以算得上是非常便捷了。整个页面很像jupyter的界面,大致的选项也基本相似,如果有使用过本地的jupyter的话,对InternStudio的界面应该不会陌生。

至此,InternStudio介绍到此结束,下面重点介绍Vscode怎么通过SSH连接远程服务器。

二、Vscode SSH连接远程服务器

之前写过一篇的文章Pycharm连接远程服务器,之后可能用Vscode会多一些,正好这次任务要求的也是用Vscode进行连接,所以下面将介绍什么用Vscode SSH进行远程的连接。

SSH全称Secure Shell,中文翻译为安全外壳,它是一种网络安全协议,通过加密和认证机制实现安全的访问和文件传输等业务。SSH 协议通过对网络数据进行加密和验证,在不安全的网络环境中提供了安全的网络服务。
有两种方式进行远程服务器连接 ,第一种是每次登录都是用密码,第二种是配置密钥登录,后续登录无需使用密码,先讲解第一种方式:
1.使用密码登录:

在开发机界面点击使用SSH登录

将下面的登录命令和密码分别复制到本地电脑的powershell中

出现以下界面表示连接成功:

可以输入nvidia-smi查看GPU信息

2.配置SSH密钥进行SSH远程连接

在本地计算机终端通过ssh-keygen -t rsa指令生成密钥,一路yes,enter即可,生成的密钥位于C盘~/.ssh/id_rsa.pub位置上。

cd到.ssh目录下,教程是通过Get-Content查看的,我是直接输入文件名用文本编辑器打开的,注意复制的时候只复制前两段即可。

将刚刚复制的密钥粘贴到到首页配置SSHKey的位置,下次再连接时即可不用输入密码。

下面讲解如何使用Vscode与远程服务器的连接,首先你需要下载好Vscode,CSDN有很多教程,这里就不再赘述,需要的插件是Remote -SSH,在插件市场直接安装下载即可。

安装完成后,左侧会出现插件的图标,复制之前的SSH登录密码,点击SSH右边的+号,输入连接命令和密码进行连接,右下角会出现连接成功字样,表示连接成功。

点击打开文件夹,打开root文件夹

显示服务器的文件夹,表示连接成功

下面需要进行端口映射,在开关机界面点击自定义服务,在本地的电脑终端复制 比如 下面的指令,并输入密码,注意输入完成之后没有反馈内容,光标一直跳动说明映射成功。

在服务器上新建一个hello_world.py的文件,提前安装gradio,pip install gradio==4.29.0,复制代码如下:

python 复制代码
import socket
import re
import gradio as gr

def get_hostname():
    hostname = socket.gethostname()
    match = re.search(r'-(\d+)$', hostname)
    name = match.group(1)
    
    return name
 

with gr.Blocks(gr.themes.Soft()) as demo:
    html_code = f"""
            <p align="center">
            <a href="https://intern-ai.org.cn/home">
                <img src="https://intern-ai.org.cn/assets/headerLogo-4ea34f23.svg" alt="Logo" width="20%" style="border-radius: 5px;">
            </a>
            </p>
            <h1 style="text-align: center;">?? Welcome {get_hostname()} user, welcome to the ShuSheng LLM Practical Camp Course!</h1>
            <h2 style="text-align: center;">? Let's go on a journey through ShuSheng Island together.</h2>
            <p align="center">
                <a href="https://github.com/InternLM/Tutorial/blob/camp3">
                    <img src="https://oss.lingkongstudy.com.cn/blog/202406301604074.jpg" alt="Logo" width="20%" style="border-radius: 5px;">
                </a>
            </p>

            """
    gr.Markdown(html_code)

demo.launch()

在终端使用指令python hello_world.py运行,点击终端给出的地址,即可看到书生的实战营图片,说明上面的映射成功,否则无法看到图片。

在vscode里按下ctrl+shift+~可以查看端口的使用情况,可以看到7860端口正在自动转发。

三、Linux基础指令

之前有写过Linux指令的文章,链接如下Linux指令大全,基本涵盖了常用的指令,可以点击链接查看。

这里就不做过多介绍。

相关推荐
姜太小白1 小时前
【VSCode】VS Code自动换行设置方法
ide·vscode·编辑器
lllsure2 小时前
SpringCloud——负载均衡
服务器·网络·spring cloud
用户867132495742 小时前
5 个开源 MCP 服务器,让您的 AI 代理势不可挡
服务器
杨凯凡2 小时前
Linux安全防护:全方位服务安全配置指南
linux·运维·服务器·安全
Nightwish52 小时前
Linux随记(十七)
linux·运维·服务器
我的golang之路果然有问题3 小时前
给git配置SSH(github,gitee)
经验分享·笔记·git·学习·gitee·ssh·github
量子位3 小时前
智能车速度刷新:仅 10 个月,首个纯端侧大模型上车量产!
人工智能·llm
XU磊2604 小时前
深入理解表单---提交用户与网页交互的重要方式:GET 与 POST 的本质区别与应用实践
服务器·前端·javascript
数巨小码人5 小时前
Linux常用指令
linux·运维·服务器
Linux运维老纪5 小时前
Linux之七大难命令(The Seven Difficult Commands of Linux)
linux·运维·服务器·云计算·运维开发