部署大语言模型并对话

随着人工智能技术的飞速发展,大语言模型(Large Language Models, LLMs)因其强大的语言理解和生成能力而备受关注。OpenWebUI ,原名 Ollama WebUI ,是一款专为大语言模型(LLM)设计的先进 Web 交互界面工具,支持多种LLM运行器,可实现完全离线运行以及容器化部署,用户可以通过简单的配置和命令,轻松将 OpenWebUI 集成到自己的系统中。 函数计算基于 Serverless 应用中心开发" Ollama 应用模版 ",简化开发者的部署流程。

在阿里云的https://developer.aliyun.com/adc/scenario/b105013328814fe995c0f091d708d67d

一、选择函数计算

【应用】->【创建应用】

二、这个选择ollama模型

三、设置服务器配置

注意:创建应用这些是不花钱的,使用的时候会根据你选的配置进行计费的

四、记住这个公网地址,后面会用到

复制公网地址 这个地址不能直接

五、返回在次创建应用Open WebUI

在返回应用,创建应用LLM 对话页面 Open WebUI

六、输入上面应用的网址

点击下面的创建应用

七、部署完成后访问域名

八、打开访问地址

相关推荐
OpenAnolis小助手5 小时前
专访阿里云:AI 时代服务器操作系统洗牌在即,生态合作重构未来
阿里云·ai·操作系统·龙蜥社区·龙蜥操作系统大会·anolis os 23
茶馆大橘9 小时前
(黑马点评)八、实现签到统计和uv统计
数据库·redis·学习·阿里云·黑马点评
首席数智官2 天前
阿里云AI基础设施全面升级,模型算力利用率提升超20%
人工智能·阿里云·云计算
圣圣不爱学习2 天前
阿里云kafka消息写入topic失败
阿里云·kafka
【D'accumulation】3 天前
配置RHEL和centOS的阿里云镜像源
linux·阿里云·centos
阿里云大数据AI技术3 天前
对接开源大模型应用开发平台最佳实践
人工智能·阿里云·llm·opensearch
Java码农杂谈3 天前
浅谈Tair缓存的三种存储引擎MDB、LDB、RDB
java·redis·分布式·后端·阿里云·缓存
Jasonakeke3 天前
本地镜像发布到阿里云
阿里云·云计算
奔跑的蜗牛fzq3 天前
阿里云专业翻译api对接
阿里云·云计算
风清已存在4 天前
阿里云OSS与IOT使用详解
物联网·阿里云·云计算