Windows环境下MaxKB大模型 Docker部署图文指南

目录

    • [1. 环境准备](#1. 环境准备)
      • [1.1 检查系统要求](#1.1 检查系统要求)
      • [1.2 启用Windows功能](#1.2 启用Windows功能)
    • [2. 安装必要软件](#2. 安装必要软件)
      • [2.1 安装WSL2](#2.1 安装WSL2)
      • [2.2 安装NVIDIA驱动](#2.2 安装NVIDIA驱动)
      • [2.3 安装Docker Desktop](#2.3 安装Docker Desktop)
    • [3. Docker配置](#3. Docker配置)
      • [3.1 配置Docker Desktop](#3.1 配置Docker Desktop)
      • [3.2 验证GPU支持](#3.2 验证GPU支持)
    • [4. 项目部署](#4. 项目部署)
      • [4.1 创建工作目录](#4.1 创建工作目录)
      • [4.2 创建docker-compose.yml](#4.2 创建docker-compose.yml)
    • [5. 启动服务](#5. 启动服务)
      • [5.1 拉取镜像](#5.1 拉取镜像)
      • [5.2 启动服务](#5.2 启动服务)
    • [6. 验证部署](#6. 验证部署)
      • [6.1 检查服务状态](#6.1 检查服务状态)
      • [6.2 测试API](#6.2 测试API)
    • [7. 监控和管理](#7. 监控和管理)
      • [7.1 使用Docker Desktop监控](#7.1 使用Docker Desktop监控)
      • [7.2 查看GPU使用](#7.2 查看GPU使用)
    • [8. 常见问题处理](#8. 常见问题处理)
      • [8.1 WSL2问题](#8.1 WSL2问题)
      • [8.2 Docker问题](#8.2 Docker问题)
    • [9. 备份和维护](#9. 备份和维护)
      • [9.1 数据备份](#9.1 数据备份)
      • [9.2 日志管理](#9.2 日志管理)

1. 环境准备

1.1 检查系统要求

  • Windows 10/11 专业版或企业版 (64位)
  • 至少16GB RAM
  • 支持虚拟化的CPU
  • NVIDIA GPU (建议16GB以上显存)

1.2 启用Windows功能

  1. 打开"控制面板" -> "程序和功能" -> "启用或关闭Windows功能"
  2. 勾选"Hyper-V"和"Windows Subsystem for Linux"
  3. 重启电脑

2. 安装必要软件

2.1 安装WSL2

powershell 复制代码
# 在PowerShell(管理员)中运行
wsl --install

2.2 安装NVIDIA驱动

  1. 访问 NVIDIA驱动下载页面
  2. 选择对应显卡型号下载驱动
  3. 安装驱动程序

2.3 安装Docker Desktop

  1. 下载 Docker Desktop
  2. 运行安装程序
  3. 安装完成后重启电脑

3. Docker配置

3.1 配置Docker Desktop

  1. 打开Docker Desktop
  2. 进入Settings -> Resources -> WSL Integration
  3. 启用WSL2集成

3.2 验证GPU支持

powershell 复制代码
docker run --gpus all nvidia/cuda:11.8.0-base-ubuntu22.04 nvidia-smi

4. 项目部署

4.1 创建工作目录

powershell 复制代码
# 在PowerShell中运行
mkdir D:\maxkb
mkdir D:\maxkb\models
mkdir D:\maxkb\data
mkdir D:\maxkb\logs

4.2 创建docker-compose.yml

使用记事本或VSCode创建配置文件:

yaml 复制代码
version: '3.8'
services:
  maxkb-server:
    image: maxkb/server:latest
    ...

5. 启动服务

5.1 拉取镜像

在PowerShell中运行:

powershell 复制代码
cd D:\maxkb
docker-compose pull

5.2 启动服务

powershell 复制代码
docker-compose up -d

6. 验证部署

6.1 检查服务状态

powershell 复制代码
docker ps
docker-compose ps

6.2 测试API

使用Postman或浏览器访问:

7. 监控和管理

7.1 使用Docker Desktop监控

打开Docker Desktop查看容器状态、日志和资源使用情况

7.2 查看GPU使用

使用任务管理器或NVIDIA控制面板查看GPU使用情况

8. 常见问题处理

8.1 WSL2问题

powershell 复制代码
# 重启WSL
wsl --shutdown
wsl --start

8.2 Docker问题

  1. 重启Docker Desktop
  2. 检查事件日志
  3. 重置Docker到出厂设置

9. 备份和维护

9.1 数据备份

powershell 复制代码
# 备份数据目录
Compress-Archive -Path D:\maxkb -DestinationPath D:\maxkb_backup.zip

9.2 日志管理

使用Docker Desktop查看和导出日志

相关推荐
天下·第二17 小时前
python处理【orc】下载压缩的.zip文件,windows和linux同时适配
linux·windows·python
凑齐六个字吧17 小时前
单细胞LIANA受配体分析框架学习
linux·服务器·windows
拾心2117 小时前
【云运维】K8s管理(二)
运维·容器·kubernetes
红石榴花生油17 小时前
RBAC权限配置 核心笔记
数据库·windows·笔记
百***354817 小时前
后端在微服务中的Docker
java·docker·微服务
不知所云,18 小时前
2.windows c/c++ 编译器安装, mingw和clang
c语言·c++·windows·mingw·clang·c编译器
小牛马爱写博客18 小时前
Kubernetes Service 核心概念与实操指南(分别使用yaml文件和命令行分别创建service版)
云原生·容器·kubernetes
t***316518 小时前
MySQL5.7.44-winx64版本Windows Server下载安装教程图解
windows·adb
中工钱袋19 小时前
Java Stream 流详解
java·windows·python
love530love19 小时前
【笔记】重建 Stable Diffusion WebUI 虚拟环境实录
人工智能·windows·笔记·python·stable diffusion·aigc·虚拟环境