书生浦语大模型实战营-课程笔记(2)

介绍了一下InternLm的总体情况。

InternLm是训练框架,Lagent是智能体框架。

这个预训练需要这么多算力,大模型确实花钱。

Lagent是智能体框架,相当于LLM的应用。

pip设置

开发机的配置

pip install transformers==4.33.1 timm==0.4.12 sentencepiece==0.1.99 gradio==3.44.4 markdown2==2.4.10 xlsxwriter==3.1.2 einops accelerate

安装依赖设置

bash
conda activate internlm-demo  # 首次进入 vscode 会默认是 base 环境,所以首先切换环境
cd /root/code/InternLM
streamlit run web_demo.py --server.address 127.0.0.1 --server.port 6006

web_demo启动方式(主要不是直接用python运行,需要streamlit run)

import os

# 下载模型
os.system('huggingface-cli download --resume-download internlm/internlm-chat-7b --local-dir your_path')

hugging face下载模型的代码

相关推荐
开MINI的工科男2 小时前
【笔记】自动驾驶预测与决策规划_Part3_路径与轨迹规划
人工智能·笔记·自动驾驶·预测与决策
洛寒瑜5 小时前
【读书笔记-《30天自制操作系统》-23】Day24
开发语言·汇编·笔记·操作系统·应用程序
星迹日6 小时前
C语言:联合和枚举
c语言·开发语言·经验分享·笔记
我叫啥都行6 小时前
计算机基础知识复习9.7
运维·服务器·网络·笔记·后端
Galaxy.4046 小时前
基于深度学习的文本情感原因提取研究综述——论文阅读
论文阅读·笔记
余生的观澜7 小时前
4.铝箔缺陷检测项目复盘
笔记
jason_renyu7 小时前
CICD简单描述笔记
笔记·cicd·cicd部署
晓幂7 小时前
CTFShow-信息搜集
笔记·学习
小米里的大麦8 小时前
【C++】深入理解引用:从基础到进阶详解
c++·经验分享·笔记·引用·引用和指针
MowenPan19959 小时前
高等数学 3.5 函数的极值与最大值最小值
笔记·学习·高等数学