Docker compose部署Ollama使用模型

一、新建ollama_compose.yaml文件,并写入以下内容

java 复制代码
name: local_ollama
services:
  ollama:
    image: ollama/ollama
    restart: always
    container_name: ollama
    ports:
      - "11434:11434"
    environment:
      - OLLAMA_HOST=0.0.0.0:11434
      - OLLAMA_MODELS=/data/models
    volumes:
      - ollama-data:/data/models

volumes:
  ollama-data:

二、拉取镜像并启动

java 复制代码
docker compose -f ollama_compose.yaml up -d

三、进入容器

java 复制代码
docker exec -it ollama /bin/bash

四、拉取deepssek 1.5B模型并启动

java 复制代码
ollama run deepseek-r1:1.5b

五、查看日志

java 复制代码
docker logs ollama

六、访问http地址

http://localhost:11434/

相关推荐
梅孔立34 分钟前
Docker 容器网络不通:Tomcat 无法解析 MySQL、Nginx 无法反代 Tomcat 的生产级排查与治理
网络·docker·tomcat
镜子AI8 小时前
镜子AI 技术复盘:三条自动化链路上的“停止条件“设计
运维·人工智能·自动化
tianyuanwo9 小时前
NetBox 数据库详解:当“关系型数据库”被装进一个网络运维的领域模型里
运维·数据库·netbox
HideF9 小时前
Linux sudo
linux
FlightYe9 小时前
视界原理之3D视频(四):裸眼、眼镜和头显
android·linux·c++·3d·ffmpeg·音视频
螺蛳粉 螺蛳粉10 小时前
第 05 篇:etcd 深入:Raft 共识、watch 机制与快照备份恢复实战(底座认知 05)
docker·云原生·容器·kubernetes·etcd·分布式存储·kube-apiserver
蹊黎10 小时前
Linux 下用 C 语言实现进度条
linux·c语言·单片机
知已难寻11 小时前
03 · OpenStack的计算管理 Nova
运维·服务器·开发语言·云原生·云计算·openstack·开源软件
huainingning11 小时前
Windows syslog日志服务器搭建与模拟器对接
运维·服务器·智能路由器
牛马鸡niumasi11 小时前
【Linux】C语言文件操作
linux