Windows环境下MaxKB大模型 Docker部署图文指南

目录

    • [1. 环境准备](#1. 环境准备)
      • [1.1 检查系统要求](#1.1 检查系统要求)
      • [1.2 启用Windows功能](#1.2 启用Windows功能)
    • [2. 安装必要软件](#2. 安装必要软件)
      • [2.1 安装WSL2](#2.1 安装WSL2)
      • [2.2 安装NVIDIA驱动](#2.2 安装NVIDIA驱动)
      • [2.3 安装Docker Desktop](#2.3 安装Docker Desktop)
    • [3. Docker配置](#3. Docker配置)
      • [3.1 配置Docker Desktop](#3.1 配置Docker Desktop)
      • [3.2 验证GPU支持](#3.2 验证GPU支持)
    • [4. 项目部署](#4. 项目部署)
      • [4.1 创建工作目录](#4.1 创建工作目录)
      • [4.2 创建docker-compose.yml](#4.2 创建docker-compose.yml)
    • [5. 启动服务](#5. 启动服务)
      • [5.1 拉取镜像](#5.1 拉取镜像)
      • [5.2 启动服务](#5.2 启动服务)
    • [6. 验证部署](#6. 验证部署)
      • [6.1 检查服务状态](#6.1 检查服务状态)
      • [6.2 测试API](#6.2 测试API)
    • [7. 监控和管理](#7. 监控和管理)
      • [7.1 使用Docker Desktop监控](#7.1 使用Docker Desktop监控)
      • [7.2 查看GPU使用](#7.2 查看GPU使用)
    • [8. 常见问题处理](#8. 常见问题处理)
      • [8.1 WSL2问题](#8.1 WSL2问题)
      • [8.2 Docker问题](#8.2 Docker问题)
    • [9. 备份和维护](#9. 备份和维护)
      • [9.1 数据备份](#9.1 数据备份)
      • [9.2 日志管理](#9.2 日志管理)

1. 环境准备

1.1 检查系统要求

  • Windows 10/11 专业版或企业版 (64位)
  • 至少16GB RAM
  • 支持虚拟化的CPU
  • NVIDIA GPU (建议16GB以上显存)

1.2 启用Windows功能

  1. 打开"控制面板" -> "程序和功能" -> "启用或关闭Windows功能"
  2. 勾选"Hyper-V"和"Windows Subsystem for Linux"
  3. 重启电脑

2. 安装必要软件

2.1 安装WSL2

powershell 复制代码
# 在PowerShell(管理员)中运行
wsl --install

2.2 安装NVIDIA驱动

  1. 访问 NVIDIA驱动下载页面
  2. 选择对应显卡型号下载驱动
  3. 安装驱动程序

2.3 安装Docker Desktop

  1. 下载 Docker Desktop
  2. 运行安装程序
  3. 安装完成后重启电脑

3. Docker配置

3.1 配置Docker Desktop

  1. 打开Docker Desktop
  2. 进入Settings -> Resources -> WSL Integration
  3. 启用WSL2集成

3.2 验证GPU支持

powershell 复制代码
docker run --gpus all nvidia/cuda:11.8.0-base-ubuntu22.04 nvidia-smi

4. 项目部署

4.1 创建工作目录

powershell 复制代码
# 在PowerShell中运行
mkdir D:\maxkb
mkdir D:\maxkb\models
mkdir D:\maxkb\data
mkdir D:\maxkb\logs

4.2 创建docker-compose.yml

使用记事本或VSCode创建配置文件:

yaml 复制代码
version: '3.8'
services:
  maxkb-server:
    image: maxkb/server:latest
    ...

5. 启动服务

5.1 拉取镜像

在PowerShell中运行:

powershell 复制代码
cd D:\maxkb
docker-compose pull

5.2 启动服务

powershell 复制代码
docker-compose up -d

6. 验证部署

6.1 检查服务状态

powershell 复制代码
docker ps
docker-compose ps

6.2 测试API

使用Postman或浏览器访问:

7. 监控和管理

7.1 使用Docker Desktop监控

打开Docker Desktop查看容器状态、日志和资源使用情况

7.2 查看GPU使用

使用任务管理器或NVIDIA控制面板查看GPU使用情况

8. 常见问题处理

8.1 WSL2问题

powershell 复制代码
# 重启WSL
wsl --shutdown
wsl --start

8.2 Docker问题

  1. 重启Docker Desktop
  2. 检查事件日志
  3. 重置Docker到出厂设置

9. 备份和维护

9.1 数据备份

powershell 复制代码
# 备份数据目录
Compress-Archive -Path D:\maxkb -DestinationPath D:\maxkb_backup.zip

9.2 日志管理

使用Docker Desktop查看和导出日志

相关推荐
陈苏同学1 小时前
[已解决] VS Code / Cursor / Trae 的 PowerShell 终端 conda activate 进不去环境的常见问题
linux·windows·conda
我不是秃头sheep1 小时前
Ubuntu 安装 Docker(镜像加速)完整教程
linux·ubuntu·docker
辰%1 小时前
如何重启pycharm中的项目?
windows·python·pycharm
alden_ygq4 小时前
Kubernetes Horizontal Pod Autosscaler(HPA)核心机制解析
云原生·容器·kubernetes
iangyu4 小时前
【windows server脚本每天从网络盘复制到本地】
开发语言·windows·php
格桑阿sir4 小时前
Kubernetes控制平面组件:Kubelet详解(三):CRI 容器运行时接口层
docker·kubernetes·containerd·kubelet·cri-o·容器运行时·cri
love530love6 小时前
家用或办公 Windows 电脑玩人工智能开源项目配备核显的必要性(含 NPU 及显卡类型补充)
人工智能·windows·python·开源·电脑
dadeity7 小时前
Linux 离线安装 Docker 和 Docker Compose 最新版 的完整指南
linux·docker·docker-compose
东方未明010812 小时前
docker(一)前言:高并发服务端技术架构的演进
docker·性能优化·高并发·虚拟化·容器化
yt9483215 小时前
Docker-基础(数据卷、自定义镜像、Compose)
运维·docker·容器