Windows环境下MaxKB大模型 Docker部署图文指南

目录

    • [1. 环境准备](#1. 环境准备)
      • [1.1 检查系统要求](#1.1 检查系统要求)
      • [1.2 启用Windows功能](#1.2 启用Windows功能)
    • [2. 安装必要软件](#2. 安装必要软件)
      • [2.1 安装WSL2](#2.1 安装WSL2)
      • [2.2 安装NVIDIA驱动](#2.2 安装NVIDIA驱动)
      • [2.3 安装Docker Desktop](#2.3 安装Docker Desktop)
    • [3. Docker配置](#3. Docker配置)
      • [3.1 配置Docker Desktop](#3.1 配置Docker Desktop)
      • [3.2 验证GPU支持](#3.2 验证GPU支持)
    • [4. 项目部署](#4. 项目部署)
      • [4.1 创建工作目录](#4.1 创建工作目录)
      • [4.2 创建docker-compose.yml](#4.2 创建docker-compose.yml)
    • [5. 启动服务](#5. 启动服务)
      • [5.1 拉取镜像](#5.1 拉取镜像)
      • [5.2 启动服务](#5.2 启动服务)
    • [6. 验证部署](#6. 验证部署)
      • [6.1 检查服务状态](#6.1 检查服务状态)
      • [6.2 测试API](#6.2 测试API)
    • [7. 监控和管理](#7. 监控和管理)
      • [7.1 使用Docker Desktop监控](#7.1 使用Docker Desktop监控)
      • [7.2 查看GPU使用](#7.2 查看GPU使用)
    • [8. 常见问题处理](#8. 常见问题处理)
      • [8.1 WSL2问题](#8.1 WSL2问题)
      • [8.2 Docker问题](#8.2 Docker问题)
    • [9. 备份和维护](#9. 备份和维护)
      • [9.1 数据备份](#9.1 数据备份)
      • [9.2 日志管理](#9.2 日志管理)

1. 环境准备

1.1 检查系统要求

  • Windows 10/11 专业版或企业版 (64位)
  • 至少16GB RAM
  • 支持虚拟化的CPU
  • NVIDIA GPU (建议16GB以上显存)

1.2 启用Windows功能

  1. 打开"控制面板" -> "程序和功能" -> "启用或关闭Windows功能"
  2. 勾选"Hyper-V"和"Windows Subsystem for Linux"
  3. 重启电脑

2. 安装必要软件

2.1 安装WSL2

powershell 复制代码
# 在PowerShell(管理员)中运行
wsl --install

2.2 安装NVIDIA驱动

  1. 访问 NVIDIA驱动下载页面
  2. 选择对应显卡型号下载驱动
  3. 安装驱动程序

2.3 安装Docker Desktop

  1. 下载 Docker Desktop
  2. 运行安装程序
  3. 安装完成后重启电脑

3. Docker配置

3.1 配置Docker Desktop

  1. 打开Docker Desktop
  2. 进入Settings -> Resources -> WSL Integration
  3. 启用WSL2集成

3.2 验证GPU支持

powershell 复制代码
docker run --gpus all nvidia/cuda:11.8.0-base-ubuntu22.04 nvidia-smi

4. 项目部署

4.1 创建工作目录

powershell 复制代码
# 在PowerShell中运行
mkdir D:\maxkb
mkdir D:\maxkb\models
mkdir D:\maxkb\data
mkdir D:\maxkb\logs

4.2 创建docker-compose.yml

使用记事本或VSCode创建配置文件:

yaml 复制代码
version: '3.8'
services:
  maxkb-server:
    image: maxkb/server:latest
    ...

5. 启动服务

5.1 拉取镜像

在PowerShell中运行:

powershell 复制代码
cd D:\maxkb
docker-compose pull

5.2 启动服务

powershell 复制代码
docker-compose up -d

6. 验证部署

6.1 检查服务状态

powershell 复制代码
docker ps
docker-compose ps

6.2 测试API

使用Postman或浏览器访问:

7. 监控和管理

7.1 使用Docker Desktop监控

打开Docker Desktop查看容器状态、日志和资源使用情况

7.2 查看GPU使用

使用任务管理器或NVIDIA控制面板查看GPU使用情况

8. 常见问题处理

8.1 WSL2问题

powershell 复制代码
# 重启WSL
wsl --shutdown
wsl --start

8.2 Docker问题

  1. 重启Docker Desktop
  2. 检查事件日志
  3. 重置Docker到出厂设置

9. 备份和维护

9.1 数据备份

powershell 复制代码
# 备份数据目录
Compress-Archive -Path D:\maxkb -DestinationPath D:\maxkb_backup.zip

9.2 日志管理

使用Docker Desktop查看和导出日志

相关推荐
晚风吹长发3 小时前
Docker使用——Docker容器及相关命令
linux·运维·服务器·docker·容器·架构
ShiXZ2133 小时前
Docker Compose 安装与配置指南
运维·docker·容器
寒水馨3 小时前
Windows下载、安装ollama-v0.32.1(附安装包OllamaSetup.exe)
windows·llm·大语言模型·llama·本地部署·ollama·模型运行
BullSmall4 小时前
Anolis OS 8.10 Docker 部署 SonarQube 9.9 完整教程
运维·docker·容器
王维同学5 小时前
[原创][Windows C++]Explorer Shell 扩展、图标覆盖与 COM 服务器定位
c++·windows·注册表
java_logo8 小时前
Apache Doris Docker 部署指南:实时分析数据库实战
数据库·docker·apache·doris·apache doris·轩辕镜像·docker部署doris
广州灵眸科技有限公司15 小时前
xfce桌面触摸校准:基于灵眸科技EASY-EAl-Orin-Nano
数据库·windows·科技
Ctrl+Z侠20 小时前
.NET WebApi Windows / Linux Docker 全链路压测与瓶颈定位 0 到 1 教程
linux·windows·.net
生活爱好者!21 小时前
我把NAS当作下载机,docker一键部署qb
运维·docker·容器
java_logo21 小时前
Docker Compose 部署 ClickHouse:快速搭建高性能列式数据库
数据库·clickhouse·docker·列式数据库·轩辕镜像·高性能数据库·clickhouse部署教程