Docker compose部署Ollama使用模型

rabbit_pro2026-05-13 20:57

一、新建ollama_compose.yaml文件，并写入以下内容

java 复制代码

name: local_ollama
services:
  ollama:
    image: ollama/ollama
    restart: always
    container_name: ollama
    ports:
      - "11434:11434"
    environment:
      - OLLAMA_HOST=0.0.0.0:11434
      - OLLAMA_MODELS=/data/models
    volumes:
      - ollama-data:/data/models

volumes:
  ollama-data:

二、拉取镜像并启动

java 复制代码

docker compose -f ollama_compose.yaml up -d

三、进入容器

java 复制代码

docker exec -it ollama /bin/bash

四、拉取deepssek 1.5B模型并启动

java 复制代码

ollama run deepseek-r1:1.5b

五、查看日志

java 复制代码

docker logs ollama

六、访问http地址

http://localhost:11434/