跑通大模型领域的 hello world

跑通书生·浦语大模型的 3 个趣味 demo(InternLM-Chat-7B 智能对话、Lagent工具调用解简单数学题、浦语·灵笔多模态图文创作和理解)视频和文档。

1、两个框架

InternLM 是⼀个开源的轻量级训练框架,旨在⽀持⼤模型训练⽽⽆需⼤量的依赖。

Lagent 是⼀个轻量级、开源的基于⼤语⾔模型的智能体(agent)框架,⽀持⽤户快速地将⼀个⼤语⾔模型转变为多种类型的智能体。

2、连接服务器

在本地使用ssh连接云端的GPU服务器。

普通连接

ssh -o StrictHostKeyChecking=no -p 33574 root@ssh.intern-ai.org.cn

连接服务器 并映射出端口到本地

ssh -L 6006:127.0.0.1:6006 root@ssh.intern-ai.org.cn -p 33574 -o StrictHostKeyChecking=no

3、用tmux执行命令

为了让窗口与进程解构,在tmux中执行linux命令。

1、bash

2、新建会话tmux new -s my_session。

3、在 Tmux 窗口运行所需的程序(conda activate internlm-demo等)。

4、按下快捷键Ctrl+b d将会话分离。

5、下次使用时,重新连接到会话tmux attach-session -t my_session。

4、更换pip、conda源

在MirrorZ中提供了各类开源软件库的镜像和设置镜像的方法。

5、实现效果





相关推荐
锋行天下4 小时前
langgraph 后端发自定义数据,前端接收方法概括
人工智能·python
泯泷5 小时前
单个 AI 再强,为什么也干不过一支 AI 团队?
人工智能·llm·agent
浪遏5 小时前
认识 wm:从多平台发布到可扩展 CLI 的架构设计
人工智能
深蓝AI5 小时前
英伟达换帅当天,我先跑了一遍 GPU 环境体检:版本矩阵比人事更值得盯
人工智能·gpu
罗西的思考7 小时前
【轻量化复刻大模型 / KIMI K3】AttnRes 模块交互式演示
人工智能·算法·机器学习
stormzhangV7 小时前
涨薪 50% 怎么做到的?
人工智能·面试·aigc
老金带你玩AI8 小时前
如何在5分钟之内创建Grok Bot的超级团队
人工智能
程序员cxuan8 小时前
离谱,AI 大佬顺手搓了个 YouTube ,而我顺手给他搓了个中文插件
人工智能·后端·程序员
zixu_star8 小时前
上下文工程:Prompt、记忆和上下文如何管理?
人工智能·prompt
ZONGYUAN-ROOT9 小时前
【3D仿真数据集】从“能生成”到“能用”:面向工业仿真的3D资产自治自愈流水线全链路落地
人工智能