liunx宝塔docker使用ollama+dify

第一步

记得开发自己的端口。也可以在.env文件修改默认端口

第二步

登录终端使用docker命令

复制代码
docker ps -a

查看所有容器

第三步

如果容器有模型,比如Qwen

复制代码
docker exec -it ollama_cb6e-ollama_Cb6e-1 ollama run qwen

如果模型未下载

模型名:qwen

复制代码
docker exec -it ollama_cb6e-ollama_Cb6e-1 ollama pull qwen

更多模型Ollama Search

进入我门的dify页面,设置本地模型,自己改下端口,.env文件

安装ollama插件

比如博主的:qwen
url:http://域名或IP地址+/11434/

可以看到模型以及添加好了,不过在添加多个模型