Ollama前端页面调用大模型 知识问答 模型切换

Ollama前端页面调用大模型 知识问答 模型切换

Ollama提供命令行的方式使用,还提供了API接口调用的方式,但是没有界面操作那么直观,那么有人就基于ollama提供的接口开发了一套页面,页面的风格和chatgpt和类似;下面介绍

如何比页面运行起来,并调用大模型问答。

本地部署大模型,不需要GPU就能玩本地模型-亲测成功

docker运行Ollama前端页面

使用docker运行,安装请看:

Centos7离线安装Docker

华为云arm架构安装Docker

shell 复制代码
docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main

#指定端口运行
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
 
#指定ollama端口
docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main

docker run -d -p 3000:8080 --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main

打开浏览器输入地址访问:

http://192.168.1.225:8080/

界面风格很简单,如下图

给大模型提问,本地的CPU跑也不慢

还可以切换大模型

可以配置用户信息

参考链接:https://blog.csdn.net/AAI666666/article/details/136444519

相关推荐
Archie_IT7 小时前
DeepSeek R1/V3满血版——在线体验与API调用
人工智能·深度学习·ai·自然语言处理
sp42a9 小时前
Windows 上源码安装 FastGPT
ai·fastgpt·rag
Watermelo61710 小时前
从DeepSeek大爆发看AI革命困局:大模型如何突破算力囚笼与信任危机?
人工智能·深度学习·神经网络·机器学习·ai·语言模型·自然语言处理
AL.千灯学长12 小时前
DeepSeek接入Siri(已升级支持苹果手表)完整版硅基流动DeepSeek-R1部署
人工智能·gpt·ios·ai·苹果vision pro
政安晨13 小时前
政安晨【零基础玩转各类开源AI项目】DeepSeek 多模态大模型Janus-Pro-7B,本地部署!支持图像识别和图像生成
人工智能·大模型·多模态·deepseek·janus-pro-7b
豌豆花下猫13 小时前
Python 潮流周刊#90:uv 一周岁了,优缺点分析(摘要)
后端·python·ai
♡喜欢做梦13 小时前
Deepseek 与 ChatGPT:AI 浪潮中的双子星较量
ai·chatgpt·deepseek
roamingcode16 小时前
实验 Figma MCP + Cursor 联合工作流
ai·ai编程·figma·mcp·mcp server·design to code
宇努力学习19 小时前
如何本地部署seepseek
python·ai·ollama·deepseek
Java知识技术分享20 小时前
使用LangChain构建第一个ReAct Agent
python·react.js·ai·语言模型·langchain