感谢阅读
拉取镜像
python
docker pull eosphorosai/dbgpt:latest
linux判断拉取是否成功的方法
python
docker images | grep "eosphorosai/dbgpt"
windows判断拉取是否成功的方法
python
docker images | Select-String "eosphorosai/dbgpt"
如果报错没有,则用
python
docker images | findstr "eosphorosai/dbgpt"
模型以及启动容器
模型
本地部署大模型,可离线下载后放置/models目录下(启动容器后docker cp即可)。
docker cp后别着急提交新镜像,可能会出现要安装其他包。
启动容器
python
docker run --ipc host --gpus all -d \
-p 5000:5000 \
-e LOCAL_DB_TYPE=sqlite \
-e LOCAL_DB_PATH=data/default_sqlite.db \
-e LLM_MODEL=vicuna-13b-v1.5 \
-e LANGUAGE=zh \
-v /data/models:/app/models \
--name dbgpt \
eosphorosai/dbgpt