技术栈
open webui
Hello 0 1
3 个月前
llama
·
ollama
·
open webui
·
本地部署大语言模型
用Ollama 和 Open WebUI本地部署Llama 3.1 8B
说明： 本人运行环境windows11 N卡6G显存。部署Llama3.1 8BOllama是一个开源的大型语言模型服务工具，它允许用户在自己的硬件环境中轻松部署和使用大规模预训练模型。Ollama 的主要功能是在Docker容器内部署和管理大型语言模型（LLM），使得用户能够快速地在本地运行这些模型。它简化了部署过程，通过简单的安装指令，用户可以执行一条命令就在本地运行开源大型语言模型，例如Llama 3.1。本地部署，离线运行，数据无需上传云端，担心隐私泄露。
剑客的茶馆
4 个月前
docker
·
ai
·
stable diffusion
·
ollama
·
open webui
企业本地大模型用Ollama+Open WebUI+Stable Diffusion可视化问答及画图
最近在尝试搭建公司内部用户的大模型，可视化回答，并让它能画图出来， 主要包括四块：以上运行环境Win10, Ollama,SD直接装在windows10下， 然后安装Docker Desktop版， 将Open WebUI部署在Docker内
DbWong_0918
6 个月前
docker
·
ollama
·
open webui
使用open webui+ollama部署本地大模型
上次使用了angthingllm + ollama部署了本地大模型，详情见：https://www.cnblogs.com/jokingremarks/p/18151827