部署大语言模型并对话

随着人工智能技术的飞速发展,大语言模型(Large Language Models, LLMs)因其强大的语言理解和生成能力而备受关注。OpenWebUI ,原名 Ollama WebUI ,是一款专为大语言模型(LLM)设计的先进 Web 交互界面工具,支持多种LLM运行器,可实现完全离线运行以及容器化部署,用户可以通过简单的配置和命令,轻松将 OpenWebUI 集成到自己的系统中。 函数计算基于 Serverless 应用中心开发" Ollama 应用模版 ",简化开发者的部署流程。

在阿里云的https://developer.aliyun.com/adc/scenario/b105013328814fe995c0f091d708d67d

一、选择函数计算

【应用】->【创建应用】

二、这个选择ollama模型

三、设置服务器配置

注意:创建应用这些是不花钱的,使用的时候会根据你选的配置进行计费的

四、记住这个公网地址,后面会用到

复制公网地址 这个地址不能直接

五、返回在次创建应用Open WebUI

在返回应用,创建应用LLM 对话页面 Open WebUI

六、输入上面应用的网址

点击下面的创建应用

七、部署完成后访问域名

八、打开访问地址

相关推荐
虎冯河23 分钟前
阿里云 + 宝塔面板环境Python 项目从 0 到 1 部署全流
python·阿里云·云计算
周之鸥2 小时前
宝塔面板 + 阿里云 DNS 实现 Let’s Encrypt 证书自动续签(详细图文教程)
阿里云·云计算·宝塔面板·let’s encrypt·自动续签
翼龙云_cloud12 小时前
阿里云渠道商:如何手动一键扩缩容ECS实例?
运维·服务器·阿里云·云计算
齐 飞16 小时前
使用阿里云的MaxCompute查询sql时报错:DruidPooledPreparedStatement: getMaxFieldSize error
sql·阿里云·odps
倪某某18 小时前
阿里云无影GPU部署WAN2.2模型
阿里云·云计算
阿里云通信18 小时前
WhatsApp 账号被封怎么办?日常“养号”、防封、解封实践
阿里云·whatsapp·whatsapp 封号
倪某某18 小时前
阿里云ECS GPU部署WAN2.2
人工智能·阿里云·云计算
风吹落叶花飘荡20 小时前
将mysql数据库的内容备份至阿里云 oss归档存储
数据库·mysql·阿里云
小白考证进阶中21 小时前
阿里云ACA认证常见问题答疑
阿里云·大模型·云计算·阿里云aca证书·阿里云aca·aca认证·入门证书
翼龙云_cloud1 天前
阿里云渠道商:阿里云弹性伸缩有哪几种
服务器·阿里云·云计算