部署大语言模型并对话

随着人工智能技术的飞速发展,大语言模型(Large Language Models, LLMs)因其强大的语言理解和生成能力而备受关注。OpenWebUI ,原名 Ollama WebUI ,是一款专为大语言模型(LLM)设计的先进 Web 交互界面工具,支持多种LLM运行器,可实现完全离线运行以及容器化部署,用户可以通过简单的配置和命令,轻松将 OpenWebUI 集成到自己的系统中。 函数计算基于 Serverless 应用中心开发" Ollama 应用模版 ",简化开发者的部署流程。

在阿里云的https://developer.aliyun.com/adc/scenario/b105013328814fe995c0f091d708d67d

一、选择函数计算

【应用】->【创建应用】

二、这个选择ollama模型

三、设置服务器配置

注意:创建应用这些是不花钱的,使用的时候会根据你选的配置进行计费的

四、记住这个公网地址,后面会用到

复制公网地址 这个地址不能直接

五、返回在次创建应用Open WebUI

在返回应用,创建应用LLM 对话页面 Open WebUI

六、输入上面应用的网址

点击下面的创建应用

七、部署完成后访问域名

八、打开访问地址

相关推荐
我的作业错错错35 分钟前
搭建私人网站
服务器·阿里云·私人网站
朴拙数科3 小时前
艺术字体AI生成阿里云WordArt锦书、通义万相、SiliconFlow、Pillow+OpenCV本地生成艺术字体
人工智能·阿里云·pillow
中云时代-防御可测试-小余3 小时前
高防IP是如何防护DDoS攻击和CC攻击的
运维·服务器·tcp/ip·安全·阿里云·ddos·宽度优先
Serverless社区11 小时前
MCP云托管最优解,揭秘国内最大MCP中文社区背后的运行时
阿里云·云原生·serverless·函数计算
XINVRY-FPGA2 天前
XCZU19EG-2FFVC1760I Xilinx赛灵思FPGA Zynq UltraScale+MPSoC
c++·嵌入式硬件·阿里云·fpga开发·云计算·硬件工程·fpga
Saggitarxm2 天前
阿里云镜像加速仅支持阿里云产品了
阿里云·docker·云计算·镜像加速
TIF星空2 天前
【在阿里云或其他 CentOS/RHEL 系统上安装和配置 Dante SOCKS5 代理服务】
经验分享·笔记·阿里云·centos·云计算
podoor2 天前
在阿里云虚拟主机上启用WordPress伪静态
阿里云·wordpress伪静态
中电金信2 天前
中电金信联合阿里云推出智能陪练Agent
阿里云·云计算