(二)DeepSeek大模型安装部署-Web工具Open-WebUI安装

DeepSeek大模型安装部署-Web工具Open-WebUI安装

(一)、Open-WebUI的工作流程

(二)、DockerCompose部署Open-WebUI

复制代码
version: "3"
services:
  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    environment:
      - OLLAMA_BASE_URL=http://localhost:11434
      - ENABLE_OPENAI_API=false
    network_mode: "host"
  • OLLAMA_BASE_URL 配置ollama连接地址
  • ENABLE_OPENAI_API 禁用连接openai
  • network_mode: "host" 解决Docker容器无法与运行在主机上的Ollama服务通信

执行docker-compose up -d 启动服务,默认端口8080

访问:http://localhost:8080

(三)、Open-WebUI连接不上Ollama问题

可能是因为Ollama没有监听允许外部连接的网络接口。可通过设置环境变量OLLAMA_HOST = 0.0.0.0解决。

复制代码
vim /etc/systemd/system/ollama.service

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin"

[Install]
WantedBy=default.target

#添加了Environment="OLLAMA_HOST=0.0.0.0:11434"环境变量

#为了使更改生效,您需要重新加载systemd的配置。使用以下命令:
sudo systemctl daemon-reload
#最后,重启服务以应用更改:
sudo systemctl restart ollama
相关推荐
小七-七牛开发者4 小时前
Codex 实践系列 Vol.04:用 Goal 和 Plan 管住一个长任务
ai·大模型·agent·claude·token·工作流·claudecode·ai coding
熊猫钓鱼>_>5 小时前
AI 3D 虚拟盲盒工坊:用腾讯云混元3D + TTS Skills 打造会说话的三维收藏品
人工智能·大模型·llm·agent·tts·混元3d·多skill协同
thesky1234566 小时前
27届大模型面试准备(二十五):推理服务化与投机解码——vLLM、PagedAttention、Medusa 与连续批处理
大模型·vllm·eagle·pagedattention·medusa·推理服务化·投机解码
NutShell Wang7 小时前
国产全模态开源潮:从语言模型到视频模型,中国开源生态再升级
人工智能·语言模型·开源·大模型·音视频·多模态·vibe coding
赵大仁8 小时前
Tool Calling 工程化:Schema 设计、鉴权、失败重试
ai·大模型·agent·工程化·tool calling
码字的特恩8 小时前
微软确认暂不为 Windows 11 加入透明效果自定义功能,建议用户使用第三方工具
人工智能·windows·算法·microsoft·计算机·大模型·编程
程序猿编码9 小时前
不用PyTorch,不用CUDA,我用C++手写了一个能跑GPT和Whisper的推理库
c++·pytorch·gpt·大模型·whisper
AC赳赳老秦9 小时前
网页公开附件自动采集:OpenClaw 批量下载页面内嵌 Word/Excel 附件,统一格式后结构化入库
java·python·word·php·excel·deepseek·openclaw
AI大佬的小弟10 小时前
大模型名词精讲06:Top-P(核采样)
大模型·top-p·temperature·ai入门·核采样·采样策略·ai调参