windows下docker运行ollama

最终效果

前言

我们之前说过,在dify里配置ollama时,由于dify是在docker里,而ollama是在宿主机上,所以二者的网络需要一些技巧来打通。

其中有一个办法,就是把ollama的IP暴露出来。

这其实看似不安全,实则还挺危险的。

当时,就一直想着,如果能用docker部署ollama就好了。


前序步骤

安装wsl

安装docker desktop

设置一个mirror地址,用于下载image。

这些都有写过,麻烦各位翻一下。

每次开机,都需要把docker desktop打开。

不然所有docker命令都用不了。

所以这也算是一个前置的步骤吧。

使用步骤

执行指令

代码如下(示例):

shell 复制代码
docker run --gpus=all -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

出来这个看不懂的东西后,就说明成功了。

代码如下(示例):

c 复制代码
data = pd.read_csv(
    'https://labfile.oss.aliyuncs.com/courses/1283/adult.data.csv')
print(data.head())

回到docker desktop的界面,就可以看到:

打开terminal:

执行:

复制代码
ollama run qwen2.5

相关推荐
码龄3年 审核中4 小时前
说说SSH的端口转发
大数据·运维·ssh
盛世隐者4 小时前
【Linux】定制Linux系统
linux·运维·服务器
行思理5 小时前
Docker 应该如何学习 分四个阶段
学习·docker·容器
..Move...6 小时前
Docker应用部署tomcat和nginx
nginx·docker·tomcat
Lxt.星翊7 小时前
MySQL(安装和卸载、数据库存储原理图)
linux·运维·windows
苹果醋37 小时前
JAVA面试汇总(二)多线程(五)
运维·vue.js·spring boot·nginx·课程设计
JustNow_Man7 小时前
Cline中模型识别任务与clinerules相关性的实现逻辑
linux·运维·ubuntu
小白银子7 小时前
零基础从头教学Linux(Day 56)
linux·运维·python
你想考研啊8 小时前
Linux下搭建Activemq的Master-Slave(共享文件模式)
linux·运维·activemq
Teamhelper_AR8 小时前
AR巡检系统:打开工业智能运维的下一幕
运维·ar