(二)DeepSeek大模型安装部署-Web工具Open-WebUI安装

DeepSeek大模型安装部署-Web工具Open-WebUI安装

(一)、Open-WebUI的工作流程

(二)、DockerCompose部署Open-WebUI

复制代码
version: "3"
services:
  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    environment:
      - OLLAMA_BASE_URL=http://localhost:11434
      - ENABLE_OPENAI_API=false
    network_mode: "host"
  • OLLAMA_BASE_URL 配置ollama连接地址
  • ENABLE_OPENAI_API 禁用连接openai
  • network_mode: "host" 解决Docker容器无法与运行在主机上的Ollama服务通信

执行docker-compose up -d 启动服务,默认端口8080

访问:http://localhost:8080

(三)、Open-WebUI连接不上Ollama问题

可能是因为Ollama没有监听允许外部连接的网络接口。可通过设置环境变量OLLAMA_HOST = 0.0.0.0解决。

复制代码
vim /etc/systemd/system/ollama.service

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin"

[Install]
WantedBy=default.target

#添加了Environment="OLLAMA_HOST=0.0.0.0:11434"环境变量

#为了使更改生效,您需要重新加载systemd的配置。使用以下命令:
sudo systemctl daemon-reload
#最后,重启服务以应用更改:
sudo systemctl restart ollama
相关推荐
哥本哈士奇(aspnetx)10 分钟前
实现AI和BI整合的初步思路和探索-Part2
大模型
KG_LLM图谱增强大模型3 小时前
突破AI助手成本壁垒:知识图谱思维架构让小模型实现大性能
人工智能·架构·大模型·知识图谱·graphrag
喜欢吃豆3 小时前
[特殊字符] 深入解构 Assistants API:从“黑盒”抽象到“显式”控制的架构演进与终极指南
网络·人工智能·自然语言处理·架构·大模型
珊珊而川9 小时前
AUTOACT论文翻译
大模型
一 铭10 小时前
Claude Agent Skills:一种基于 Prompt 扩展的元工具架构
人工智能·大模型·llm·prompt
Wu Liuqi12 小时前
【大模型学习4】大语言模型(LLM)详解
人工智能·学习·语言模型·大模型
哥本哈士奇(aspnetx)1 天前
实现AI和BI整合的初步思路和探索
大模型
少林码僧1 天前
2.3 Transformer 变体与扩展:BERT、GPT 与多模态模型
人工智能·gpt·ai·大模型·bert·transformer·1024程序员节
探模之翼2 天前
ReAct 与 Function Call:两种主流 Agent 技术解析与实践
大模型·agent
zhangbaolin2 天前
langchain agent的中间件
中间件·langchain·大模型·agent