Docker compose部署Ollama使用模型

一、新建ollama_compose.yaml文件,并写入以下内容

java 复制代码
name: local_ollama
services:
  ollama:
    image: ollama/ollama
    restart: always
    container_name: ollama
    ports:
      - "11434:11434"
    environment:
      - OLLAMA_HOST=0.0.0.0:11434
      - OLLAMA_MODELS=/data/models
    volumes:
      - ollama-data:/data/models

volumes:
  ollama-data:

二、拉取镜像并启动

java 复制代码
docker compose -f ollama_compose.yaml up -d

三、进入容器

java 复制代码
docker exec -it ollama /bin/bash

四、拉取deepssek 1.5B模型并启动

java 复制代码
ollama run deepseek-r1:1.5b

五、查看日志

java 复制代码
docker logs ollama

六、访问http地址

http://localhost:11434/

相关推荐
元岳数字人小元2 分钟前
易部署易运维!AI数字人一体机实现场景长效运营
运维·人工智能·人机交互·交互·源代码管理
深圳市益普科技有限公司15 分钟前
半导体mes厂家有哪些?从自动检验与AOI集成看mes厂家的检验自动化水平
运维·自动化
开开心心_Every28 分钟前
电脑文件搜索软件支持内容和拼音搜索
linux·服务器·人工智能·r语言·pdf·音视频·symfony
国产化创客34 分钟前
Kindle --FBInk绘图与zforce2 触摸应用开发
linux·物联网·智能家居·智能硬件
宵时待雨35 分钟前
linux笔记归纳13:Socket编程UDP
linux·服务器·笔记·udp
2603_9547083136 分钟前
微能网协调控制箱的核心价值:让多种能源“协同作战”
大数据·运维·网络·人工智能·架构·能源
码上有光36 分钟前
make和makefile(自动化构建)
android·运维·自动化
bksczm37 分钟前
Linux之应用层层协议认知(TCP协议编程模块化demo) —— 兼论守护进程机制
linux·运维·服务器
jiecy37 分钟前
同在专网内,为什么有的通服务器有的不通?
运维·服务器
'pi%'1 小时前
“咒语”质量如何量化?大模型Prompt效果评估与自动化验证方案
运维·自动化·prompt