书生·浦语大模型第二期实战营（6）笔记

东东就是我2024-04-27 12:07

Lagent&AgentLego智能体应用搭建

智能体

autogpt

rewooo

react

Lagent

agentlego

关系

实战

创建环境

复制代码

mkdir -p /root/agent
studio-conda -t agent -o pytorch-2.1.2

安装lagent和agentlego

复制代码

cd /root/agent
conda activate agent
git clone https://gitee.com/internlm/lagent.git
cd lagent && git checkout 581d9fb && pip install -e . && cd ..
git clone https://gitee.com/internlm/agentlego.git
cd agentlego && git checkout 7769e0d && pip install -e . && cd ..

conda activate agent
pip install lmdeploy==0.3.0

cd /root/agent
git clone -b camp2 https://gitee.com/internlm/Tutorial.git

Lagent：轻量级智能体框架

1.使用 LMDeploy 部署

复制代码

conda activate agent
lmdeploy serve api_server /root/share/new_models/Shanghai_AI_Laboratory/internlm2-chat-7b \
                            --server-name 127.0.0.1 \
                            --model-name internlm2-chat-7b \
                            --cache-max-entry-count 0.1

2 启动并使用 Lagent Web Demo

复制代码

conda activate agent
cd /root/agent/lagent/examples
streamlit run internlm2_agent_web_demo.py --server.address 127.0.0.1 --server.port 7860

3.端口映射

复制代码

ssh -CNg -L 7860:127.0.0.1:7860 -L 23333:127.0.0.1:23333 root@ssh.intern-ai.org.cn -p 你的 ssh 端口号

4.用 Lagent 自定义工具