跑通大模型领域的 hello world

跑通书生·浦语大模型的 3 个趣味 demo(InternLM-Chat-7B 智能对话、Lagent工具调用解简单数学题、浦语·灵笔多模态图文创作和理解)视频文档

1、两个框架

InternLM 是⼀个开源的轻量级训练框架,旨在⽀持⼤模型训练⽽⽆需⼤量的依赖。

Lagent 是⼀个轻量级、开源的基于⼤语⾔模型的智能体(agent)框架,⽀持⽤户快速地将⼀个⼤语⾔模型转变为多种类型的智能体。

2、连接服务器

在本地使用ssh连接云端的GPU服务器。

普通连接

ssh -o StrictHostKeyChecking=no -p 33574 root@ssh.intern-ai.org.cn

连接服务器 并映射出端口到本地

ssh -L 6006:127.0.0.1:6006 root@ssh.intern-ai.org.cn -p 33574 -o StrictHostKeyChecking=no

3、用tmux执行命令

为了让窗口与进程解构,在tmux中执行linux命令。

1、bash

2、新建会话tmux new -s my_session。

3、在 Tmux 窗口运行所需的程序(conda activate internlm-demo等)。

4、按下快捷键Ctrl+b d将会话分离。

5、下次使用时,重新连接到会话tmux attach-session -t my_session。

4、更换pip、conda源

MirrorZ中提供了各类开源软件库的镜像和设置镜像的方法。

5、实现效果





相关推荐
Ai墨芯11119 分钟前
深度学习水论文:特征提取
人工智能·深度学习
无名工程师26 分钟前
神经网络知识讨论
人工智能·神经网络
nbsaas-boot33 分钟前
AI时代,我们更需要自己的开发方式与平台
人工智能
SHIPKING39336 分钟前
【机器学习&深度学习】LLamaFactory微调效果与vllm部署效果不一致如何解决
人工智能·深度学习·机器学习
jonyleek2 小时前
如何搭建一套安全的,企业级本地AI专属知识库系统?从安装系统到构建知识体系,全流程!
人工智能·安全
MQ_SOFTWARE2 小时前
AI驱动的金融推理:Fin-R1模型如何重塑行业决策逻辑
人工智能·金融
生医转码,四海为家3 小时前
零基础-动手学深度学习-6.6 卷积神经网络(LeNet)
人工智能·深度学习·cnn
无名工程师3 小时前
AI 学习过程中各阶段的学习重点、时间规划以及不同方向的选择与建议等内容
人工智能·学习
WXX_s3 小时前
【OpenCV篇】OpenCV——03day.图像预处理(2)
人工智能·python·opencv·学习·计算机视觉