MaxKB4j智能体平台 Docker Compose 快速部署教程

简介

MaxKB4j = Max Knowledge Base for Java,是一款基于Java语言开发的LLM工作流应用和 RAG 的开源LLMOps平台,项目主要借鉴了MaxKB和FastGPT,并将两个的优势结合到一个项目上,使用高性能、高稳定性以及安全可靠的JAVA语言重新设计开发。MaxKB4j广泛应用于 智能客服、企业内部知识库、数据分析、学术研究与教育等场景 。

前置知识

1.基础的网络知识:端口,防火墙...... 2.DockerDocker Compose 基础知识 3.大模型相关接口和参数 4.RAG 相关知识:向量模型,向量数据库,向量检索

部署架构图

  • MongoDB:用于存储全文检索数据
  • PostgreSQL:用于存储业务数据和存储向量数据

推荐配置

环境 最低配置(单节点) 推荐配置
测试(可以把计算进程设置少一些) 2c4g 2c4g
100w 组向量 4c8g 50GB 4c16g 50GB
500w 组向量 8c32g 200GB 16c64g 200GB

前置工作

1. 确保网络环境

如果使用OpenAI等国外模型接口,请确保可以正常访问,否则会报错:Connection error 等。

2. 准备 Docker 环境

Linux

bash 复制代码
# 安装 Docker
curl -fsSL https://get.docker.com | bash -s docker --mirror Aliyun
systemctl enable --now docker
# 安装 docker-compose
curl -L https://github.com/docker/compose/releases/download/v2.20.3/docker-compose-`uname -s`-`uname -m` -o /usr/local/bin/docker-compose
chmod +x /usr/local/bin/docker-compose
# 验证安装
docker -v
docker-compose -v
# 如失效,自行百度~

Windows

我们建议将源代码和其他数据绑定到 Linux 容器中时,将其存储在 Linux 文件系统中,而不是 Windows 文件系统中。

可以选择直接使用 WSL 2 后端在 Windows 中安装 Docker Desktop

也可以直接在 WSL 2 中安装命令行版本的 Docker

开始部署

1. 下载 docker-compose.yml

非 Linux 环境或无法访问外网环境,可手动创建一个目录文件夹 ,并下载配置文件docker-compose.yml,在这个文件夹中,依据下载的配置文件运行docker。

2.启动容器

docker-compose.yml 同级目录下执行。请确保docker-compose版本最好在2.17以上,否则可能无法执行自动化命令。

bash 复制代码
# 启动容器
docker-compose up -d

3.访问 MaxKB4J

目前可以通过 ip:8080 直接访问(注意开放防火墙)。登录用户名为 admin,默认密码为 maxkb4j.

如果需要域名访问,请自行安装并配置 Nginx

相关推荐
无敌最俊朗@11 小时前
MQTT 关键特性详解
java·前端·物联网
JAVA学习通11 小时前
微服务项目->在线oj系统(Java-Spring)----[前端]
java·开发语言·前端
CG大魔王11 小时前
SenseVoice微调
人工智能·语言模型·音频
爱编程的喵喵11 小时前
Al Agent开发零基础构建复合智能体
人工智能·agent·智能体
Pocker_Spades_A11 小时前
论文精读(六):微服务系统服务依赖发现技术综述
人工智能
拾贰_C11 小时前
【SpringBoot】前后端联动实现条件查询操作
java·spring boot·后端
catchadmin13 小时前
PHP 快速集成 ChatGPT 用 AI 让你的应用更聪明
人工智能·后端·chatgpt·php
GUIQU.13 小时前
【QT】嵌入式开发:从零开始,让硬件“活”起来的魔法之旅
java·数据库·c++·qt
编程武士17 小时前
从50ms到30ms:YOLOv10部署中图像预处理的性能优化实践
人工智能·python·yolo·性能优化
max50060017 小时前
基于Meta Llama的二语习得学习者行为预测计算模型
人工智能·算法·机器学习·分类·数据挖掘·llama