MaxKB4j智能体平台 Docker Compose 快速部署教程

简介

MaxKB4j = Max Knowledge Base for Java,是一款基于Java语言开发的LLM工作流应用和 RAG 的开源LLMOps平台,项目主要借鉴了MaxKB和FastGPT,并将两个的优势结合到一个项目上,使用高性能、高稳定性以及安全可靠的JAVA语言重新设计开发。MaxKB4j广泛应用于 智能客服、企业内部知识库、数据分析、学术研究与教育等场景 。

前置知识

1.基础的网络知识:端口,防火墙...... 2.DockerDocker Compose 基础知识 3.大模型相关接口和参数 4.RAG 相关知识:向量模型,向量数据库,向量检索

部署架构图

  • MongoDB:用于存储全文检索数据
  • PostgreSQL:用于存储业务数据和存储向量数据

推荐配置

环境 最低配置(单节点) 推荐配置
测试(可以把计算进程设置少一些) 2c4g 2c4g
100w 组向量 4c8g 50GB 4c16g 50GB
500w 组向量 8c32g 200GB 16c64g 200GB

前置工作

1. 确保网络环境

如果使用OpenAI等国外模型接口,请确保可以正常访问,否则会报错:Connection error 等。

2. 准备 Docker 环境

Linux

bash 复制代码
# 安装 Docker
curl -fsSL https://get.docker.com | bash -s docker --mirror Aliyun
systemctl enable --now docker
# 安装 docker-compose
curl -L https://github.com/docker/compose/releases/download/v2.20.3/docker-compose-`uname -s`-`uname -m` -o /usr/local/bin/docker-compose
chmod +x /usr/local/bin/docker-compose
# 验证安装
docker -v
docker-compose -v
# 如失效,自行百度~

Windows

我们建议将源代码和其他数据绑定到 Linux 容器中时,将其存储在 Linux 文件系统中,而不是 Windows 文件系统中。

可以选择直接使用 WSL 2 后端在 Windows 中安装 Docker Desktop

也可以直接在 WSL 2 中安装命令行版本的 Docker

开始部署

1. 下载 docker-compose.yml

非 Linux 环境或无法访问外网环境,可手动创建一个目录文件夹 ,并下载配置文件docker-compose.yml,在这个文件夹中,依据下载的配置文件运行docker。

2.启动容器

docker-compose.yml 同级目录下执行。请确保docker-compose版本最好在2.17以上,否则可能无法执行自动化命令。

bash 复制代码
# 启动容器
docker-compose up -d

3.访问 MaxKB4J

目前可以通过 ip:8080 直接访问(注意开放防火墙)。登录用户名为 admin,默认密码为 maxkb4j.

如果需要域名访问,请自行安装并配置 Nginx

相关推荐
火山引擎开发者社区30 分钟前
七夕漫谈|向量检索界的超强 CP:DiskANN 铺路,RaBitQ 加速,又准又快还能省
人工智能
孙启超3 小时前
【大模型应用开发】LLM 到底是什么,以及它是怎么训练的
人工智能·lora·llm·微调·sft·token·rlhf
新知图书3 小时前
7.1 需求分析与规划 《AI Agent智能体开发实践》
人工智能·agent·ai agent·智能体
clorinda3 小时前
机器学习文本分类入门:从数据清洗到中文评论词向量转换
人工智能
To_OC3 小时前
从一行入口代码啃透 NestJS:工厂模式、装饰器和依赖注入是怎么串起来的
后端·设计模式·nestjs
小宋10213 小时前
Dify 知识库实战:从 PDF 导入到带引用回答,完整搭建企业问答助手
人工智能·ai编程
Python私教3 小时前
多个项目怎么安全合并?先适配,再切换
后端·python·架构
2601_963870204 小时前
【计算机毕业设计】基于Spring Boot的专科医院医疗管理系统
java·spring boot·课程设计
Bingo_BIG4 小时前
Java Spring 批量修改,实体、接口、方法的定义
java·spring
画中有画4 小时前
软件架构中质量属性(性能、安全、可扩展性)的权衡设计
java·运维·安全