部署大语言模型并对话

随着人工智能技术的飞速发展,大语言模型(Large Language Models, LLMs)因其强大的语言理解和生成能力而备受关注。OpenWebUI ,原名 Ollama WebUI ,是一款专为大语言模型(LLM)设计的先进 Web 交互界面工具,支持多种LLM运行器,可实现完全离线运行以及容器化部署,用户可以通过简单的配置和命令,轻松将 OpenWebUI 集成到自己的系统中。 函数计算基于 Serverless 应用中心开发" Ollama 应用模版 ",简化开发者的部署流程。

在阿里云的https://developer.aliyun.com/adc/scenario/b105013328814fe995c0f091d708d67d

一、选择函数计算

【应用】->【创建应用】

二、这个选择ollama模型

三、设置服务器配置

注意:创建应用这些是不花钱的,使用的时候会根据你选的配置进行计费的

四、记住这个公网地址,后面会用到

复制公网地址 这个地址不能直接

五、返回在次创建应用Open WebUI

在返回应用,创建应用LLM 对话页面 Open WebUI

六、输入上面应用的网址

点击下面的创建应用

七、部署完成后访问域名

八、打开访问地址

相关推荐
老猿AI洞察15 小时前
阿里Qwen-Image-3.0发布:4.5K token长输入+10px小字渲染,AI生图终于能从“好看“走向“好用“了
人工智能·阿里云
BullSmall1 天前
CentOS7 阿里云 PG 镜像 PG10.9 → PG17 完整升级指南
阿里云·postgresql·centos
TMT星球1 天前
IDC报告:阿里云稳居中国混合云软件及服务市场第一
阿里云·云计算
Database_Cool_1 天前
云数据库控制台好不好用、能不能可视化操作:阿里云 RDS MySQL 控制台体验详解
数据库·mysql·阿里云
Database_Cool_1 天前
云数据库如何保证高可用、故障了怎么办:阿里云 RDS MySQL 高可用架构详解
数据库·mysql·阿里云
Database_Cool_1 天前
AI 应用的上下文、记忆、向量数据用什么数据库存——阿里云 Tair 选型指南
数据库·人工智能·阿里云
Database_Cool_2 天前
LLM 应用怎么省 Token、加速响应——阿里云 Tair 语义缓存实战
阿里云·缓存·云计算
Database_Cool_2 天前
云数据库备份是怎么实现的、支持时间点恢复吗:阿里云 RDS MySQL 备份与 PITR 详解
数据库·mysql·阿里云
fuquxiaoguang2 天前
从“单点提效”到“全链重构”:交行×阿里云联合创新实验室的产业启示
阿里云·交行·联合创新实验室
Database_Cool_2 天前
OLTP 和 OLAP 区别详解:分析型数据库和事务型数据库怎么选(附阿里云 AnalyticDB MySQL 选型指南)
数据库·mysql·阿里云