ragflow 是一个很方便的本地 RAG 库。本文主要记录一下在本机的部署过程
1、总体架构说明
开发环境:macbook pro(m1),16G内存 + 512G固态
因本机的内存和硬盘比较可怜,所以在服务器上部署基础 docker 包,本机仅运行 rag-server 部分。
服务器环境:28核56线程,64G,CentOS8
2、服务器部署
服务器安装 docker,过程略
服务器安装 docker-compose,过程略
安装基础包:进入到 ${code-root-folder}/docker/docker-compose-base.yml
运行 docker-compose 命令,以部署 docker
bash
docker-compose -f docker-compose-base.yml up -d
3、本地运行服务
本地运行服务时,需要安装一些基础包:包含有 icu4c、unixodbc
使用brew 命令安装
bash
# 安装icu4c
brew install icu4c
# 安装unixodbc
brew install unixodbc
icu4c 的安装及相关配置请参考:《macbook使用 pip 安装 pyicu 报错》
使用这个命令运行服务:python api/ragflow_server.py
4、Web 端运行
进入web 文件夹,运行npm install
注意,要求的npm 版本较高,作者使用的是 v20.10.0
使用 nvm 进行版本管理,nvm use v20.10.0
而后运行 npm install
安装完成后,使用 npm run dev 运行即可。