Windows环境下MaxKB大模型 Docker部署图文指南

目录

    • [1. 环境准备](#1. 环境准备)
      • [1.1 检查系统要求](#1.1 检查系统要求)
      • [1.2 启用Windows功能](#1.2 启用Windows功能)
    • [2. 安装必要软件](#2. 安装必要软件)
      • [2.1 安装WSL2](#2.1 安装WSL2)
      • [2.2 安装NVIDIA驱动](#2.2 安装NVIDIA驱动)
      • [2.3 安装Docker Desktop](#2.3 安装Docker Desktop)
    • [3. Docker配置](#3. Docker配置)
      • [3.1 配置Docker Desktop](#3.1 配置Docker Desktop)
      • [3.2 验证GPU支持](#3.2 验证GPU支持)
    • [4. 项目部署](#4. 项目部署)
      • [4.1 创建工作目录](#4.1 创建工作目录)
      • [4.2 创建docker-compose.yml](#4.2 创建docker-compose.yml)
    • [5. 启动服务](#5. 启动服务)
      • [5.1 拉取镜像](#5.1 拉取镜像)
      • [5.2 启动服务](#5.2 启动服务)
    • [6. 验证部署](#6. 验证部署)
      • [6.1 检查服务状态](#6.1 检查服务状态)
      • [6.2 测试API](#6.2 测试API)
    • [7. 监控和管理](#7. 监控和管理)
      • [7.1 使用Docker Desktop监控](#7.1 使用Docker Desktop监控)
      • [7.2 查看GPU使用](#7.2 查看GPU使用)
    • [8. 常见问题处理](#8. 常见问题处理)
      • [8.1 WSL2问题](#8.1 WSL2问题)
      • [8.2 Docker问题](#8.2 Docker问题)
    • [9. 备份和维护](#9. 备份和维护)
      • [9.1 数据备份](#9.1 数据备份)
      • [9.2 日志管理](#9.2 日志管理)

1. 环境准备

1.1 检查系统要求

  • Windows 10/11 专业版或企业版 (64位)
  • 至少16GB RAM
  • 支持虚拟化的CPU
  • NVIDIA GPU (建议16GB以上显存)

1.2 启用Windows功能

  1. 打开"控制面板" -> "程序和功能" -> "启用或关闭Windows功能"
  2. 勾选"Hyper-V"和"Windows Subsystem for Linux"
  3. 重启电脑

2. 安装必要软件

2.1 安装WSL2

powershell 复制代码
# 在PowerShell(管理员)中运行
wsl --install

2.2 安装NVIDIA驱动

  1. 访问 NVIDIA驱动下载页面
  2. 选择对应显卡型号下载驱动
  3. 安装驱动程序

2.3 安装Docker Desktop

  1. 下载 Docker Desktop
  2. 运行安装程序
  3. 安装完成后重启电脑

3. Docker配置

3.1 配置Docker Desktop

  1. 打开Docker Desktop
  2. 进入Settings -> Resources -> WSL Integration
  3. 启用WSL2集成

3.2 验证GPU支持

powershell 复制代码
docker run --gpus all nvidia/cuda:11.8.0-base-ubuntu22.04 nvidia-smi

4. 项目部署

4.1 创建工作目录

powershell 复制代码
# 在PowerShell中运行
mkdir D:\maxkb
mkdir D:\maxkb\models
mkdir D:\maxkb\data
mkdir D:\maxkb\logs

4.2 创建docker-compose.yml

使用记事本或VSCode创建配置文件:

yaml 复制代码
version: '3.8'
services:
  maxkb-server:
    image: maxkb/server:latest
    ...

5. 启动服务

5.1 拉取镜像

在PowerShell中运行:

powershell 复制代码
cd D:\maxkb
docker-compose pull

5.2 启动服务

powershell 复制代码
docker-compose up -d

6. 验证部署

6.1 检查服务状态

powershell 复制代码
docker ps
docker-compose ps

6.2 测试API

使用Postman或浏览器访问:

7. 监控和管理

7.1 使用Docker Desktop监控

打开Docker Desktop查看容器状态、日志和资源使用情况

7.2 查看GPU使用

使用任务管理器或NVIDIA控制面板查看GPU使用情况

8. 常见问题处理

8.1 WSL2问题

powershell 复制代码
# 重启WSL
wsl --shutdown
wsl --start

8.2 Docker问题

  1. 重启Docker Desktop
  2. 检查事件日志
  3. 重置Docker到出厂设置

9. 备份和维护

9.1 数据备份

powershell 复制代码
# 备份数据目录
Compress-Archive -Path D:\maxkb -DestinationPath D:\maxkb_backup.zip

9.2 日志管理

使用Docker Desktop查看和导出日志

相关推荐
小羊没烦恼!3 天前
初探性能优化——2个月到4小时的性能提升
java·开发语言·windows·算法·c#
rockmelodies3 天前
# Windows Server2008 R2 Standard(SP1镜像U盘)重置本地管理员密码【完整详细步骤】
windows·密码破解
虎头金猫3 天前
4K 视频总卡在公网带宽?用 N1 + OpenList 把网盘播放链路重新理顺
运维·服务器·网络·python·容器·beautifulsoup·pandas
分布式存储与RustFS3 天前
MinIO 官方 Docker 镜像被移除:依赖它的项目该怎么办
docker·云原生·devops·对象存储·minio·分布式存储
玉&心3 天前
通过Arthas在线诊断K8S中的内存及JVM等使用情况
docker·k8s·arthas
xing-xing3 天前
Docker容器中Nginx站点根目录网页配置访问
nginx·docker
赵文宇(温玉)3 天前
CoreDNS的hosts插件的缺行配置导致k8s集群异常
容器·kubernetes·rancher
guo_wen_qiang3 天前
上传本地镜像到harbor中
docker·容器·持续部署
羑悻的小杀马特3 天前
Dockerfile 全景指南:从入门编写dockerfile到生产环境镜像优化实战,一步步带你从啃透制作指令到镜像制作落地!
docker·dockerfile·镜像制作
BianHuanShiZhe3 天前
docker常见命令
docker