windows下docker运行ollama

最终效果

前言

我们之前说过,在dify里配置ollama时,由于dify是在docker里,而ollama是在宿主机上,所以二者的网络需要一些技巧来打通。

其中有一个办法,就是把ollama的IP暴露出来。

这其实看似不安全,实则还挺危险的。

当时,就一直想着,如果能用docker部署ollama就好了。


前序步骤

安装wsl

安装docker desktop

设置一个mirror地址,用于下载image。

这些都有写过,麻烦各位翻一下。

每次开机,都需要把docker desktop打开。

不然所有docker命令都用不了。

所以这也算是一个前置的步骤吧。

使用步骤

执行指令

代码如下(示例):

shell 复制代码
docker run --gpus=all -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

出来这个看不懂的东西后,就说明成功了。

代码如下(示例):

c 复制代码
data = pd.read_csv(
    'https://labfile.oss.aliyuncs.com/courses/1283/adult.data.csv')
print(data.head())

回到docker desktop的界面,就可以看到:

打开terminal:

执行:

复制代码
ollama run qwen2.5

相关推荐
残轩13 分钟前
Win10 家庭版 Docker 环境搭建详解(基于 WSL2)
前端·后端·docker
David爱编程31 分钟前
90%工程师都踩过的坑:K8s三种探针最佳组合方案全解析
docker·云原生·kubernetes
小鑫仔_x39 分钟前
使用 VMware 安装一台 Linux 系统之Centos
linux·运维·centos
hnlucky1 小时前
CentOS 7 系统中,防火墙要怎么使用?
linux·运维·网络·网络安全·centos
Waitccy1 小时前
CentOS 7 磁盘分区详细教程
linux·运维·centos
davysiao1 小时前
基于 CentOS 的 Docker Swarm 集群管理实战指南
linux·docker·centos
极小狐1 小时前
极狐GitLab Git LFS 速率限制如何设置?
运维·git·ssh·gitlab·github
忘梓.1 小时前
与终端同居日记:Shell交响曲の终极共舞指南
linux·运维·服务器
自学AI的鲨鱼儿1 小时前
Ubuntu / WSL 安装pipx
linux·运维·ubuntu
企鹅侠客2 小时前
centos停服 迁移centos7.3系统到新搭建的openEuler
linux·运维·centos·openeuler·迁移