DB-GPT 源码安装部署 0基础

DB-GPT 项目介绍

DB-GPT是一个开源的AI原生数据应用开发框架(AI Native Data App Development framework with AWEL(Agentic Workflow Expression Language) and Agents)。目的是构建大模型领域的基础设施,通过开发多模型管理(SMMF)、Text2SQL效果优化、RAG框架以及优化、Multi-Agents框架协作、AWEL(智能体工作流编排)等多种技术能力,让围绕数据库构建大模型应用更简单,更方便。

安装步骤

官网安装文档 快速开始_V0.7.0 · 语雀

与windows环境下安装,无GPU,模型连接deepseek的收费api

1.本机安装python 3.13.2 及pip

2.克隆git项目 本次安装V0.7.0版本,可以checkout到该tag

复制代码
git clone https://github.com/eosphoros-ai/DB-GPT

3.uv 安装

复制代码
curl -LsSf https://astral.sh/uv/install.sh | sh

4.依赖安装

复制代码
uv sync --all-packages --frozen --extra "base" --extra "proxy_openai" --extra "rag" --extra "storage_chromadb" --extra "dbgpts"

5.修改配置文件,注入deepseek的api 编辑configs/dbgpt-proxy-deepseek.toml文件

复制代码
# ... existing code ...
# 重点看模型配置部分
[models]
[[models.llms]]
# 请自行修改要使用的模型 deepseek-reasoner 或者 deepseek-chat
# 这边以 deepseek-reasoner 为例
name = "deepseek-reasoner"
provider = "proxy/deepseek"
api_key = "sk-你的api key"
​
# embedding模型根据自己实际环境来即可
# 以下只是参考
[[models.embeddings]]
name = "BAAI/bge-large-zh-v1.5"
provider = "hf"
path = "/data/models/bge-large-zh-v1.5"

6.启动项目

复制代码
uv run dbgpt start webserver --config configs/dbgpt-proxy-deepseek.toml

开始踩坑 开始频繁报错 sentence_transformers包找不到

复制代码
ImportError: Could not import sentence_transformers python package. Please install it with pip install sentence_transformers.

按照提示 pip install sentence_transformer也已经安装成功安装了,pip里面也能找到相关的依赖。

最后排查出来 uv有多python环境,实际uv 跑的python的环境是虚拟环境,和机器配的python环境不是一套

复制代码
uy python list #查看uv的python环境

解决方案:用uv里的虚拟环境来安装sentence_transformers依赖

复制代码
pip install sentence_transformers

成功安装后,再次启动项目,继续踩坑

复制代码
Error no file named pytorch_model.bin, model.safetensors, tf_model.h5, model.ckpt.index or flax_model.msgpack found in directory C:\code\DB-GPT\models/bge-large-zh-v1.5.

找不到models/bge-large-zh-v1.5的模型

魔搭社区下载安装相关模型

在下载前,请先通过如下命令安装ModelScope

复制代码
pip install modelscope

在DB-GPT下创建文件夹 models,进入models文件夹下载模型

复制代码
modelscope download --model BAAI/bge-large-zh-v1.5 --local_dir ./bge-large-zh-v1.5

下载完成后,再次启动项目

复制代码
uv run dbgpt start webserver --config configs/dbgpt-proxy-deepseek.toml

启动成功http://localhost:5670/chat

相关推荐
阿部多瑞 ABU2 天前
# 从底层架构到应用实践:为何部分大模型在越狱攻击下失守?
gpt·安全·ai·自然语言处理
阿部多瑞 ABU2 天前
大模型安全测试报告:千问、GPT 全系列、豆包、Claude 表现优异,DeepSeek、Grok-3 与 Kimi 存在安全隐患
gpt·安全·ai
武子康3 天前
AI炼丹日志-28 - Audiblez 将你的电子书epub转换为音频mp3 做有声书
人工智能·爬虫·gpt·算法·机器学习·ai·音视频
平凡灵感码头3 天前
OpenAI 即将推出 GPT-5:开启多模态、持续记忆对话新时代
人工智能·gpt
小R资源3 天前
免费无限使用GPT Plus、Claude Pro、Grok Super、Deepseek满血版
人工智能·gpt
pen-ai5 天前
【深度学习】12. VIT与GPT 模型与语言生成:从 GPT-1 到 GPT4
人工智能·gpt·深度学习
Mr数据杨6 天前
AIGC工具平台-GPT-SoVITS-v4-TTS音频推理克隆
gpt·aigc·音视频
Tadas-Gao6 天前
从 GPT 的发展看大模型的演进
人工智能·gpt·机器学习·大模型·llm
温正实6 天前
spring boot 实现接入 deepseek gpt接口 流式输出
javascript·spring boot·gpt
武子康7 天前
AI炼丹日志-25 - OpenAI 开源的编码助手 Codex 上手指南
人工智能·gpt·ai·语言模型·自然语言处理·开源