部署大语言模型并对话

随着人工智能技术的飞速发展,大语言模型(Large Language Models, LLMs)因其强大的语言理解和生成能力而备受关注。OpenWebUI ,原名 Ollama WebUI ,是一款专为大语言模型(LLM)设计的先进 Web 交互界面工具,支持多种LLM运行器,可实现完全离线运行以及容器化部署,用户可以通过简单的配置和命令,轻松将 OpenWebUI 集成到自己的系统中。 函数计算基于 Serverless 应用中心开发" Ollama 应用模版 ",简化开发者的部署流程。

在阿里云的https://developer.aliyun.com/adc/scenario/b105013328814fe995c0f091d708d67d

一、选择函数计算

【应用】->【创建应用】

二、这个选择ollama模型

三、设置服务器配置

注意:创建应用这些是不花钱的,使用的时候会根据你选的配置进行计费的

四、记住这个公网地址,后面会用到

复制公网地址 这个地址不能直接

五、返回在次创建应用Open WebUI

在返回应用,创建应用LLM 对话页面 Open WebUI

六、输入上面应用的网址

点击下面的创建应用

七、部署完成后访问域名

八、打开访问地址

相关推荐
张3蜂1 天前
ALB、NLB、GWLB、CLB怎么选?
阿里云·云计算
Kendra9192 天前
从 0 到上线:单文件网页 App 部署到阿里云 ECS 全流程(Nginx+Node+PM2+PostgreSQL)
nginx·阿里云·云计算·部署·个人开发·今天吃什么
北极糊的狐2 天前
阿里云宝塔输入cat /www/server/panel/config/safe_path.conf报错 No such file or directory
阿里云·云计算
北极糊的狐3 天前
阿里云宝塔报错bash tools/update.sh: No such file or directory 意思是:tools 整个目录直接丢失
阿里云·云计算·bash
NiceCloud喜云3 天前
阿里云 ECS 实例怎么选:面向出海业务的规格、地域与成本判断
阿里云·云计算
使用小功能大师3 天前
从零搭建高可用Web应用:全栈架构实战与成本优化完全指南
前端·阿里云·架构·服务搭建
yunlaodacom3 天前
阿里云国际站注册:性能损耗 < 1%!基于 eBPF 的服务器异常预测实战与调优指南
大数据·服务器·阿里云
聚搜云——JuSouClouD4 天前
上海阿里云代理商:AI Agent 云运维 权限隔离与审计实战
运维·人工智能·阿里云
聚搜云——JuSouClouD4 天前
深圳阿里云代理商:云主机性能下滑 诊断优化实战分享
阿里云·云计算