windows下docker运行ollama

几道之旅2024-11-30 19:04

前言

我们之前说过，在dify里配置ollama时，由于dify是在docker里，而ollama是在宿主机上，所以二者的网络需要一些技巧来打通。

其中有一个办法，就是把ollama的IP暴露出来。

这其实看似不安全，实则还挺危险的。

当时，就一直想着，如果能用docker部署ollama就好了。

安装wsl

安装docker desktop

设置一个mirror地址，用于下载image。

这些都有写过，麻烦各位翻一下。

每次开机，都需要把docker desktop打开。

不然所有docker命令都用不了。

所以这也算是一个前置的步骤吧。

代码如下（示例）：

shell 复制代码

docker run --gpus=all -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

出来这个看不懂的东西后，就说明成功了。

代码如下（示例）：

c 复制代码

data = pd.read_csv(
    'https://labfile.oss.aliyuncs.com/courses/1283/adult.data.csv')
print(data.head())

回到docker desktop的界面，就可以看到：

打开terminal：

执行：

ollama run qwen2.5