open webui

华为云kubernetes部署deepseek r1、ollama和open-webui（已踩过坑）ollama是一个管理大模型的一个中间层，通过它你可以下载并管理deepseek R1、llama3等大模型。 open-webui是一个web界面（界面设计受到chatgpt启发），可以集成ollama API、 OpenAI的 API。用常见的web应用架构来类比，open-webui是前端，ollama是后端，大模型是数据库。

openwebui使用github地址：python 3.11选择上就可以调用工具了参考：https://percent4.github.io/NLP%EF%BC%88%E4%B8%80%E7%99%BE%E9%9B%B6%E4%B8%89%EF%BC%89%E5%A4%A7%E6%A8%A1%E5%9E%8B%E5%BA%94%E7%94%A8%E5%88%A9%E5%99%A8%E4%B9%8BOpen-WebUI%E5%85%A5%E9%97%A8/

用Ollama 和 Open WebUI本地部署Llama 3.1 8B说明：本人运行环境windows11 N卡6G显存。部署Llama3.1 8BOllama是一个开源的大型语言模型服务工具，它允许用户在自己的硬件环境中轻松部署和使用大规模预训练模型。Ollama 的主要功能是在Docker容器内部署和管理大型语言模型（LLM），使得用户能够快速地在本地运行这些模型。它简化了部署过程，通过简单的安装指令，用户可以执行一条命令就在本地运行开源大型语言模型，例如Llama 3.1。本地部署，离线运行，数据无需上传云端，担心隐私泄露。

剑客的茶馆

企业本地大模型用Ollama+Open WebUI+Stable Diffusion可视化问答及画图最近在尝试搭建公司内部用户的大模型，可视化回答，并让它能画图出来，主要包括四块：以上运行环境Win10, Ollama,SD直接装在windows10下，然后安装Docker Desktop版，将Open WebUI部署在Docker内

使用open webui+ollama部署本地大模型上次使用了angthingllm + ollama部署了本地大模型，详情见：https://www.cnblogs.com/jokingremarks/p/18151827