跑通大模型领域的 hello world

跑通书生·浦语大模型的 3 个趣味 demo(InternLM-Chat-7B 智能对话、Lagent工具调用解简单数学题、浦语·灵笔多模态图文创作和理解)视频文档

1、两个框架

InternLM 是⼀个开源的轻量级训练框架,旨在⽀持⼤模型训练⽽⽆需⼤量的依赖。

Lagent 是⼀个轻量级、开源的基于⼤语⾔模型的智能体(agent)框架,⽀持⽤户快速地将⼀个⼤语⾔模型转变为多种类型的智能体。

2、连接服务器

在本地使用ssh连接云端的GPU服务器。

普通连接

ssh -o StrictHostKeyChecking=no -p 33574 root@ssh.intern-ai.org.cn

连接服务器 并映射出端口到本地

ssh -L 6006:127.0.0.1:6006 root@ssh.intern-ai.org.cn -p 33574 -o StrictHostKeyChecking=no

3、用tmux执行命令

为了让窗口与进程解构,在tmux中执行linux命令。

1、bash

2、新建会话tmux new -s my_session。

3、在 Tmux 窗口运行所需的程序(conda activate internlm-demo等)。

4、按下快捷键Ctrl+b d将会话分离。

5、下次使用时,重新连接到会话tmux attach-session -t my_session。

4、更换pip、conda源

MirrorZ中提供了各类开源软件库的镜像和设置镜像的方法。

5、实现效果





相关推荐
Codebee1 小时前
能力中心 (Agent SkillCenter):开启AI技能管理新时代
人工智能
聆风吟º2 小时前
CANN runtime 全链路拆解:AI 异构计算运行时的任务管理与功能适配技术路径
人工智能·深度学习·神经网络·cann
uesowys2 小时前
Apache Spark算法开发指导-One-vs-Rest classifier
人工智能·算法·spark
AI_56782 小时前
AWS EC2新手入门:6步带你从零启动实例
大数据·数据库·人工智能·机器学习·aws
User_芊芊君子2 小时前
CANN大模型推理加速引擎ascend-transformer-boost深度解析:毫秒级响应的Transformer优化方案
人工智能·深度学习·transformer
智驱力人工智能2 小时前
小区高空抛物AI实时预警方案 筑牢社区头顶安全的实践 高空抛物检测 高空抛物监控安装教程 高空抛物误报率优化方案 高空抛物监控案例分享
人工智能·深度学习·opencv·算法·安全·yolo·边缘计算
qq_160144872 小时前
亲测!2026年零基础学AI的入门干货,新手照做就能上手
人工智能
Howie Zphile3 小时前
全面预算管理难以落地的核心真相:“完美模型幻觉”的认知误区
人工智能·全面预算
人工不智能5773 小时前
拆解 BERT:Output 中的 Hidden States 到底藏了什么秘密?
人工智能·深度学习·bert
盟接之桥3 小时前
盟接之桥说制造:引流品 × 利润品,全球电商平台高效产品组合策略(供讨论)
大数据·linux·服务器·网络·人工智能·制造