Docker 部署 Ollama 详细教程以及镜像高速下载地址

目录

[1. 安装 Docker](#1. 安装 Docker)

[2. 拉取 Ollama 镜像](#2. 拉取 Ollama 镜像)

[3. 运行 Ollama 容器](#3. 运行 Ollama 容器)

[4. 拉取并运行模型](#4. 拉取并运行模型)

[5. 通过 API 访问(可选)](#5. 通过 API 访问(可选))

[6. 停止和重启容器](#6. 停止和重启容器)

注意事项

镜像高速下载地址


使用 Docker 部署 Ollama 是一种简单高效的方式,以下是详细步骤:

1. 安装 Docker

首先确保你的系统已安装 Docker。如果未安装,可以参考官方文档:

2. 拉取 Ollama 镜像

Ollama 官方提供了 Docker 镜像,使用以下命令拉取:

bash

复制代码
docker pull ollama/ollama

3. 运行 Ollama 容器

使用以下命令启动 Ollama 容器,需要映射端口并挂载数据卷以持久化模型数据:

bash

复制代码
docker run -d \
  --name ollama \
  -p 11434:11434 \
  -v ollama_data:/root/.ollama \
  --restart always \
  ollama/ollama

参数说明:

  • -d:后台运行容器
  • --name ollama:指定容器名称为 ollama
  • -p 11434:11434:将容器的 11434 端口映射到主机的 11434 端口(Ollama 默认端口)
  • -v ollama_data:/root/.ollama:创建数据卷持久化存储模型
  • --restart always:容器退出时自动重启

4. 拉取并运行模型

容器启动后,使用以下命令进入容器内部操作:

bash

复制代码
docker exec -it ollama bash

在容器内拉取并运行模型(以 llama3 为例):

bash

复制代码
ollama pull llama3
ollama run llama3

5. 通过 API 访问(可选)

如果需要通过 API 访问 Ollama,可以使用 HTTP 请求:

bash

复制代码
curl http://localhost:11434/api/generate -d '{
  "model": "llama3",
  "prompt": "Hello! What is Docker?"
}'

6. 停止和重启容器

  • 停止容器:docker stop ollama
  • 启动容器:docker start ollama
  • 查看容器状态:docker ps -a | grep ollama

注意事项

  • 如果需要使用 GPU 加速,需要安装 NVIDIA Docker 支持,并使用带有 GPU 的镜像
  • 不同模型对系统资源要求不同,确保你的服务器有足够的内存和 CPU/GPU 资源
  • 防火墙需要开放 11434 端口(如果需要远程访问)

通过以上步骤,你可以快速在 Docker 中部署和使用 Ollama,管理各种大语言模型。

镜像高速下载地址

镜像将近3个G,没关系,我会出手,已经准备好了高速下载资源

https://pan.quark.cn/s/3f2a66e49a89?pwd=GC1u

复制代码
我用夸克网盘给你分享了「ollama高速下载镜像」,点击链接或复制整段内容,打开「夸克APP」即可获取。
/~e8eb38Ptt0~:/
链接:https://pan.quark.cn/s/3f2a66e49a89?pwd=GC1u
提取码:GC1u
相关推荐
无足鸟ICT1 天前
【RHCA+】sosreport(收集诊断文档)
linux·运维·服务器
IT大白鼠1 天前
当 AI 开始自动化渗透:FBI ARTEX 警报的防守对策
运维·人工智能·自动化
Decay__1 天前
SQLServer 运维自动化平台 —— PowerShell + SQL Agent 作业:部署、监控、巡检、告警、工单闭环一体化
运维·数据库·sql·mysql·架构
A-刘晨阳1 天前
K8S 二进制集群搭建(一主两从)v1.37.2 版本
运维·云原生·容器·kubernetes·calico·nerdctl
tonydf1 天前
没完了,Nginx又报新漏洞!
运维·nginx
瑞雪兆丰年兮1 天前
Linux零基础快速入门-第二章 Linux基础命令
linux·运维·服务器
lambo mercy1 天前
01初识docker
运维·docker·容器
时间的拾荒人1 天前
Docker 容器、仓库与数据管理实战
docker·容器·eureka
时间的拾荒人1 天前
Docker 入门实战:从核心概念、安装配置到镜像操作与 Dockerfile 定制
运维·docker·容器·eureka
光电笑映1 天前
TCP 为什么可靠?从三次握手、滑动窗口到拥塞控制全面拆解(上)
运维·服务器·网络·udp