Docker compose部署Ollama使用模型

一、新建ollama_compose.yaml文件,并写入以下内容

java 复制代码
name: local_ollama
services:
  ollama:
    image: ollama/ollama
    restart: always
    container_name: ollama
    ports:
      - "11434:11434"
    environment:
      - OLLAMA_HOST=0.0.0.0:11434
      - OLLAMA_MODELS=/data/models
    volumes:
      - ollama-data:/data/models

volumes:
  ollama-data:

二、拉取镜像并启动

java 复制代码
docker compose -f ollama_compose.yaml up -d

三、进入容器

java 复制代码
docker exec -it ollama /bin/bash

四、拉取deepssek 1.5B模型并启动

java 复制代码
ollama run deepseek-r1:1.5b

五、查看日志

java 复制代码
docker logs ollama

六、访问http地址

http://localhost:11434/

相关推荐
Web3探索者2 小时前
可视化服务器管理和传统命令行区别是什么?新手教程:Linux 运维到底该用图形界面还是 SSH 命令行?
linux·ssh
zylyehuo4 小时前
Linux系统中网线与USB网络共享冲突
linux
荣--6 小时前
一键部署不是为了省时间 —— 它是把"买来的 PaaS"变成"自己的平台"的拐点
运维·zabbix·工程化·一键部署·平台化·边界设计
江华森7 小时前
动手实战学 Docker — 从零到集群编排完全指南
运维
宋均浩8 小时前
# Docker 镜像瘦身实战:从 1.2G 到 80MB 的五个优化步骤
ci/cd·docker
Avan_菜菜1 天前
FRP 内网穿透完整实战:从 HTTP 映射到 HTTPS 自签代理
运维·nginx·https
程序员老赵1 天前
10 分钟部署 OpenCode:Docker 一键安装,浏览器打开就能用 AI 写代码(附完整命令与排错)
docker·容器·ai编程
WangMingHua1111 天前
LM Studio Docker 部署——本地大模型一键启动
docker
Sokach10151 天前
Linux Shell 脚本从零到能用:一个新手的一天学习总结
linux
SelectDB2 天前
Litefuse 开源并推出单进程轻量模式,25 秒就能跑起来的 Agent 可观测与评估平台
运维·后端·自动化运维