LM Studio Docker 部署——本地大模型一键启动

前言

请注意：这是AI编写的文章，但保证镜像可用

LM Studio 是一款桌面端本地大模型推理工具，支持在本地运行各种开源大语言模型（如 Llama、Qwen、DeepSeek 等），并提供与 OpenAI 完全兼容的 REST API 接口。

通过 Docker 容器化部署 LM Studio，可以实现：

环境隔离：依赖和运行环境完全封装在容器内，不污染宿主机
一键部署：拉取镜像即可启动，无需繁琐的手动安装配置
跨平台：只要支持 Docker，Linux / macOS / Windows 均可运行

镜像信息

项目	说明
镜像地址	`crpi-192ipik4zl9qprx3.cn-chengdu.personal.cr.aliyuncs.com/dev-toolkit/lm-studio-server:latest`
镜像大小	约 5GB
默认端口	1234

前置条件

已安装 Docker 和 Docker Compose
NVIDIA GPU + NVIDIA Container Toolkit

快速部署

方式一：Docker Compose（推荐）

创建 docker-compose.yml 文件：

yaml 复制代码

services:
  lm_studio:
    image: crpi-192ipik4zl9qprx3.cn-chengdu.personal.cr.aliyuncs.com/dev-toolkit/lm-studio-server:${LMSTUDIO_SERVER_VERSION:-latest}
    ports:
      - '${LMSTUDIO_SERVER_PORT:-1234}:1234'
    restart: unless-stopped
    volumes:
      - '${LMSTUDIO_MODELS_PATH:-/root/.lmstudio/models}:/root/.lmstudio/models'
      - '${LMSTUDIO_MODELS_SERVER_LOGS:-/root/.lmstudio/server-logs}:/root/.lmstudio/server-logs'
    runtime: nvidia
    environment:
      - NVIDIA_VISIBLE_DEVICES=${GPU_IDS:-0}

启动服务：

bash 复制代码

docker compose up -d

方式二：docker run

bash 复制代码

docker run -d \
  --name lm-studio \
  -p 1234:1234 \
  -v ./models:/root/.lmstudio/models \
  -v ./server-logs:/root/.lmstudio/server-logs \
  crpi-192ipik4zl9qprx3.cn-chengdu.personal.cr.aliyuncs.com/dev-toolkit/lm-studio-server:latest

环境变量说明

可通过创建 .env 文件来自定义配置：

变量名	默认值	说明
`LMSTUDIO_SERVER_PORT`	`1234`	服务端口号
`LMSTUDIO_MODELS_PATH`	`/root/.lmstudio/models`	模型文件宿主机路径
`LMSTUDIO_MODELS_SERVER_LOGS`	`/root/.lmstudio/server-logs`	日志宿主机路径

查看可用模型

使用浏览器访问 http://<IP地址>:1234/v1/models 即可查看服务运行状态以及当前已部署的模型列表。

常见问题

端口被占用

修改 LMSTUDIO_SERVER_PORT 环境变量即可更换端口，同时需要更新 docker-compose.yml 中的端口映射。

模型存放在哪里

使用 LM Studio 官方客户端工具下载模型后，模型文件存放在 LM Studio 用户数据目录（.lmstudio）下的 models 子目录中，即 .lmstudio/models。将该目录下的模型文件夹（例如 lmstudio-community/Qwen3.6-27B-GGUF、lmstudio-community/Qwen3.6-35B-A3B-GGUF 等）复制到环境变量 LMSTUDIO_MODELS_PATH 配置的挂载路径中，容器启动后会自动识别。