DB GPT本地安装部署

源码下载

复制代码
git clone https://github.com/eosphoros-ai/DB-GPT.git

Miniconda环境安装

Miniconda 安装

复制代码
mkdir -p ~/miniconda3
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh -O ~/miniconda3/miniconda.sh
bash ~/miniconda3/miniconda.sh -b -u -p ~/miniconda3
rm -rf ~/miniconda3/miniconda.sh

初始化Miniconda

复制代码
~/miniconda3/bin/conda init bash

使conda环境生效:

复制代码
source ~/.bashrc

之后就有conda基础环境了,会看到在终端用户名前面添加了(base)标志

创建Python虚拟环境

复制代码
python >= 3.10

conda create -n dbgpt_env python=3.10

conda activate dbgpt_env #之后conda环境就变成(dbgpt_env) tom@ubuntu:/home/apps$ 

# it will take some minutes

pip install -e ".[default]" -i https://mirrors.aliyun.com/pypi/simple/

复制环境变量

复制代码
cp .env.template  .env

模型部署

下载Embedding 模型

复制代码
cd DB-GPT

mkdir models and cd models

git lfs install

git clone https://huggingface.co/GanymedeNil/text2vec-large-chinese

下载模型比较慢,使用huggingface的镜像站

复制代码
git clone https://hf-mirror.com/GanymedeNil/text2vec-large-chinese

model.safetensor 和 pytorch_model.bin 文件较大可以手动下载放到text2vec-large-chinese文件目录里

配置代理

资源有限,此处采用代理模式安装,代理模式就是采用其他大模型厂商提供的API接口

此处采用智谱的glm-4模型

复制代码
LLM_MODEL=zhipu_proxyllmi
PROXYLLM_BACKEND=glm-4
EMBEDDING_MODEL=text2vec
PROXY_SERVER_URL=https://open.bigmodel.cn/api/paas/v4/chat/completions
ZHIPU_PROXY_API_KEY=

测试数据

加载默认的测试数据到SQLite数据库中

复制代码
bash ./scripts/examples/load_examples.sh

运行服务

复制代码
python dbgpt/app/dbgpt_server.py

访问

http://localhost:5670

相关推荐
R²AIN SUITE13 小时前
高能效计算:破解算力增长与能源约束的科技密码
人工智能·ai·高能效计算
GPUStack14 小时前
45分钟从零搭建私有MaaS平台和生产级的Qwen3模型服务
ai·大模型·qwen·genai·gpu集群
小华同学ai15 小时前
2.1k star! 抓紧冲,DeepChat:连接AI与个人世界的智能助手的开源项目
人工智能·ai·开源·github·工具
慕雪华年18 小时前
【Python】使用uv管理python虚拟环境
开发语言·python·ai·uv·mcp
码观天工19 小时前
.NET AI Preview 2 发布:从 .NET Aspire 支持到 Qdrant 向量数据库集成,助你快速构建云原生 AI 应用
ai·c#·.net·向量数据库·aspire·qdrant
结冰架构1 天前
人工智能大语言模型与AI芯片新进展:技术演进与商业化路径
人工智能·ai·语言模型·自然语言处理·技术
小研学术1 天前
如何开展有组织的AI素养教育?
大数据·人工智能·ai·大模型·deepseek·ai素养
ai问道武曲1 天前
ai环境conda带torch整体迁移。
人工智能·pytorch·ai·conda
豌豆花下猫1 天前
Python 3.14 t-string 要来了,它与 f-string 有何不同?
后端·python·ai