dbgpt部署教程,纯小白教程

1.打开git下载zip文件

下载地址: GitHub - eosphoros-ai/DB-GPT at v0.5.0

2.容器部署

2.1 先启动python3.10环境

docker run -itd --name dbgpt1 --gpus all --shm-size="32g" -p 60035:5000 -p 60037:7860 -p 60038:8000 \
-v /home/tmn/OAPD/jiayq/v0.5.0/:/data  \
-v /home/tmn/MODELS/GanymedeNil/text2vec-large-chinese:/data/DB-GPT/models/text2vec-large-chinese \
-v /home/tmn/MODELS/lmsys/vicuna-13b-v1.5:/data/DB-GPT/models/vicuna-13b-v1.5 \
python:3.10 /bin/bash


#说明 重要的挂载路径
将DB-GPT-0.5.0.zip 在/home/tmn/OAPD/jiayq/v0.5.0/ 解压缩
大模型分别位于主机的 
    /home/tmn/MODELS/GanymedeNil/text2vec-large-chinese
    /home/tmn/MODELS/lmsys/vicuna-13b-v1.5
映射到容器里面 /data/DB-GPT/models位置

2.2 然后

docker exec -it dbgpt1 /bin/bash

# 进入容器后执行下面命令

cd /data/DB-GPT
pip install -e ".[default]"

# 等待一会...

2.3 设置配置文件

cp .env.template .env


# 安装vim
apt-get install vim

vim .env

2.4 启动

python dbgpt/app/dbgpt_server.py

我遇到下面报错:

解决方法:

chromadb包的__init__.py 添加几行代码,解决步骤如下

完美解决 RuntimeError: Your system has an unsupported version of sqlite3. Chroma requires sqlite3 >= 3.3-CSDN博客

相关推荐
知来者逆3 小时前
探索大型语言模型在文化常识方面的理解能力与局限性
人工智能·gpt·深度学习·语言模型·自然语言处理·chatgpt·llm
龙的爹233315 小时前
论文 | Model-tuning Via Prompts Makes NLP Models Adversarially Robust
人工智能·gpt·深度学习·语言模型·自然语言处理·prompt
龙的爹233319 小时前
论文翻译 | Generated Knowledge Prompting for Commonsense Reasoning
人工智能·gpt·机器学习·语言模型·自然语言处理·nlp·prompt
龙的爹233319 小时前
论文翻译 | Model-tuning Via Prompts Makes NLP Models Adversarially Robust
人工智能·gpt·语言模型·自然语言处理·nlp·prompt
玄奕子1 天前
GPT对话知识库——在STM32的平台下,通过SPI读取和写入Flash的步骤。
stm32·单片机·gpt·嵌入式·嵌入式驱动
龙的爹23332 天前
论文翻译 | LLaMA-Adapter :具有零初始化注意的语言模型的有效微调
人工智能·gpt·语言模型·自然语言处理·nlp·prompt·llama
罗曼蒂克在消亡2 天前
github项目——gpt-pilot自动创建应用
gpt·github·github项目
wgggfiy3 天前
chatgpt学术科研prompt模板有哪些?chatgpt的学术prompt有哪些?学术gpt,学术科研
论文阅读·人工智能·gpt·chatgpt·prompt·aigc
Ephemeroptera3 天前
通过python-api使用openai的gpt
人工智能·python·gpt
DC10203 天前
GPT 的工作原理:深入解析
java·开发语言·gpt