1.打开git下载zip文件
下载地址: GitHub - eosphoros-ai/DB-GPT at v0.5.0
2.容器部署
2.1 先启动python3.10环境
docker run -itd --name dbgpt1 --gpus all --shm-size="32g" -p 60035:5000 -p 60037:7860 -p 60038:8000 \
-v /home/tmn/OAPD/jiayq/v0.5.0/:/data \
-v /home/tmn/MODELS/GanymedeNil/text2vec-large-chinese:/data/DB-GPT/models/text2vec-large-chinese \
-v /home/tmn/MODELS/lmsys/vicuna-13b-v1.5:/data/DB-GPT/models/vicuna-13b-v1.5 \
python:3.10 /bin/bash
#说明 重要的挂载路径
将DB-GPT-0.5.0.zip 在/home/tmn/OAPD/jiayq/v0.5.0/ 解压缩
大模型分别位于主机的
/home/tmn/MODELS/GanymedeNil/text2vec-large-chinese
/home/tmn/MODELS/lmsys/vicuna-13b-v1.5
映射到容器里面 /data/DB-GPT/models位置
2.2 然后
docker exec -it dbgpt1 /bin/bash
# 进入容器后执行下面命令
cd /data/DB-GPT
pip install -e ".[default]"
# 等待一会...
2.3 设置配置文件
cp .env.template .env
# 安装vim
apt-get install vim
vim .env
2.4 启动
python dbgpt/app/dbgpt_server.py
我遇到下面报错:
解决方法:
在chromadb包的__init__.py 添加几行代码,解决步骤如下