DocsGPT - 开源文档助手

文章目录


一、关于 DocsGPT

DocsGPT是一种尖端的开源解决方案,它简化了在项目文档中查找信息的过程,通过其强大的GPT模型的集成,开发人员可以轻松地提出关于项目的问题并获得准确的答案。

告别耗时的手动搜索,让 DocsGPT 帮助您快速找到所需的信息,看看它如何彻底改变您的项目文档体验为其发展做出贡献,成为AI驱动辅助未来的一部分。


对公司的生产支持/帮助:

在将DocsGPT部署到实时环境时,我们渴望提供个性化帮助。


Roadmap

您可以在这里找到我们的路线图。

请不要犹豫,贡献或创建问题,它有助于我们改进DocsGPT!


我们针对DocsGPT优化的开源模型:

名称 基本型号 要求(或类似)
Docsgpt-7b-mistral 米斯特拉尔-7b 1xA10G gpu
Docsgpt-14b llama-2-14b 2xA10 gpu's
Docsgpt-40b-falcon -40b 8xA10G gpu's

如果您没有足够的资源来运行它,您可以使用bitsnbytes来量化。


用于信息检索的端到端AI框架


项目结构

  • 应用程序- Flask app(主应用程序)。
  • 扩展 - Chrome扩展。
  • 脚本 - 为其他库创建相似性搜索索引的脚本。
  • 前端 - 前端使用Vite和React。

二、快速入门

注 : 确保您已安装Docker

在Mac OS或Linux,写:

shell 复制代码
./setup.sh

它将安装所有依赖项并允许您下载本地模型、使用OpenAI或使用我们的LLM API。


否则,请参阅本Windows指南:

1、下载并使用

shell 复制代码
git clone https://github.com/arc53/DocsGPT.git

2、在根目录中创建一个.env文件,并将 env变量和 VITE_API_STREAMING 设置为true或false,具体取决于您是否想要流式传输答案。 里面应该是这样的:

shell 复制代码
LLM_NAME=[docsgpt or openai or others] 
VITE_API_STREAMING=true
API_KEY=[if LLM_NAME is openai]

请参阅 /.env-template 和 /application/.env_sample 文件中的可选环境变量。

3、运行 ./run-with-docker-compose.sh。

4、导航到 http://localhost:5173/ 。

要停止,只需运行Ctrl + C。


三、开发环境


1、启动 Mongo 和 Redis

对于开发,只使用了 docker-comple.yaml中的两个容器(通过删除除Redis和Mongo之外的所有服务)。 请参见文件docker-compose-dev.yaml。

运行

shell 复制代码
docker compose -f docker-compose-dev.yaml build
docker compose -f docker-compose-dev.yaml up -d

2、运行后端

注 : 确保您安装了Python 3.10或3.11。

1、导出所需的环境变量 或 在项目文件夹中准备.env文件:


2、(可选)创建Python虚拟环境: 您可以按照虚拟环境的Python官方文档。

a)在Mac OS和Linux

shell 复制代码
python -m venv venv
. venv/bin/activate

b)在Windows上

shell 复制代码
python -m venv venv
 venv/Scripts/activate

3、下载嵌入模型并保存在model/文件夹中: 您可以使用下面的脚本,或者从这里手动下载,解压缩并保存在model/文件夹中。

shell 复制代码
wget https://d3dg1063dc54p9.cloudfront.net/models/embeddings/mpnet-base-v2.zip
unzip mpnet-base-v2.zip -d model
rm mpnet-base-v2.zip

4、为后端安装依赖项:

shell 复制代码
pip install -r application/requirements.txt

5、使用下面命令运行app :

shell 复制代码
flask --app application/app.py run --host=0.0.0.0 --port=7091

6、启动 worker

shell 复制代码
celery -A application.app.celery worker -l INFO

3、启动前端

注 : 确保您拥有Node版本16或更高版本。

  1. 导航到/frontend文件夹。
  2. 安装所需的包husky和vite(如果已经安装,请忽略)。
shell 复制代码
npm install husky -g
npm install vite -g

3、安装依赖

shell 复制代码
npm install --include=dev

4、运行应用

shell 复制代码
npm run dev

2024-08-04(日)

相关推荐
奇牙coding13 小时前
GPT-5.5 报 401 invalid_api_key 怎么办?换密钥前按 4 层排查请求头、项目权限和端点
数据库·gpt·ios·ai
说实话起个名字真难啊15 小时前
实战docker部署dify及注意点
运维·docker·容器
Starry-sky(jing)18 小时前
crane 下载镜像:不连接 Docker,3 步准备并校验 ARM64 离线包
运维·docker·arm64·crane
对象存储与RustFS19 小时前
GPU 在空转等数据?PyTorch 训练集进 RustFS 的三种接法
后端·docker·云原生
可涵不会debug1 天前
超级马里奥常驻极空间以后怎么打开?Docker运行游戏页面,手机电脑都能从浏览器进入
游戏·docker·智能手机
姜鱼问生2 天前
网页一片白?Docker 跑 Nginx 读不到文件,403 Forbidden 排查实录
nginx·docker·容器
ms72wx2 天前
Docker 命令学习笔记:从入门到进阶的实战指南
笔记·学习·docker
java_logo2 天前
Docker 部署 Excalidraw:轻松搭建手绘风格白板
运维·docker·容器·excalidraw·白板·轩辕镜像
海的透彻2 天前
如何让docker容器启动时用自定义的用户
java·docker·dubbo
程序员清风2 天前
LibreChat 实战:用 Docker 搭建可扩展的多模型对话平台
运维·docker·容器