跑通大模型领域的 hello world

跑通书生·浦语大模型的 3 个趣味 demo(InternLM-Chat-7B 智能对话、Lagent工具调用解简单数学题、浦语·灵笔多模态图文创作和理解)视频文档

1、两个框架

InternLM 是⼀个开源的轻量级训练框架,旨在⽀持⼤模型训练⽽⽆需⼤量的依赖。

Lagent 是⼀个轻量级、开源的基于⼤语⾔模型的智能体(agent)框架,⽀持⽤户快速地将⼀个⼤语⾔模型转变为多种类型的智能体。

2、连接服务器

在本地使用ssh连接云端的GPU服务器。

普通连接

ssh -o StrictHostKeyChecking=no -p 33574 root@ssh.intern-ai.org.cn

连接服务器 并映射出端口到本地

ssh -L 6006:127.0.0.1:6006 root@ssh.intern-ai.org.cn -p 33574 -o StrictHostKeyChecking=no

3、用tmux执行命令

为了让窗口与进程解构,在tmux中执行linux命令。

1、bash

2、新建会话tmux new -s my_session。

3、在 Tmux 窗口运行所需的程序(conda activate internlm-demo等)。

4、按下快捷键Ctrl+b d将会话分离。

5、下次使用时,重新连接到会话tmux attach-session -t my_session。

4、更换pip、conda源

MirrorZ中提供了各类开源软件库的镜像和设置镜像的方法。

5、实现效果





相关推荐
Lumistory5 分钟前
从OPPO长安研发中心看头部科技企业的照明运维选择
大数据·运维·人工智能·光照贴图
kolyle7 分钟前
企业大模型私有化部署:从硬件选型到模型服务化的完整路径
人工智能
Dawson Zhu16 分钟前
从理论到工程化:构建可靠Agent系统的六大核心工件与实战指南
人工智能·语言模型·架构·aigc·agi
Blockchina21 分钟前
用 AI 把 30 张照片变成 8 页成长纪念册:一套普通人也能落地的轻量服务流程
人工智能
她的男孩23 分钟前
接口加密做成框架级能力有多难?我扒了 3600 行源码:从 RSA 握手到落库密文迁移
人工智能·后端·架构
天衍四九-39 分钟前
第一章:从 LLM 到 Agent —— DeepSeek Harness 入门
网络·数据库·人工智能·python
RAOY的AI笔记41 分钟前
ChatGPT怎么用得更专业?Prompt工程、API调用与AI Agent工作流实战
人工智能·chatgpt·prompt
ocean21031 小时前
2025-2026年AI提效与实践大厂面试高频问题
人工智能·面试·职场和发展·提示词工程·ai提效
xlq223221 小时前
Ai大模型接入day 6
人工智能