部署大语言模型并对话

随着人工智能技术的飞速发展,大语言模型(Large Language Models, LLMs)因其强大的语言理解和生成能力而备受关注。OpenWebUI ,原名 Ollama WebUI ,是一款专为大语言模型(LLM)设计的先进 Web 交互界面工具,支持多种LLM运行器,可实现完全离线运行以及容器化部署,用户可以通过简单的配置和命令,轻松将 OpenWebUI 集成到自己的系统中。 函数计算基于 Serverless 应用中心开发" Ollama 应用模版 ",简化开发者的部署流程。

在阿里云的https://developer.aliyun.com/adc/scenario/b105013328814fe995c0f091d708d67d

一、选择函数计算

【应用】->【创建应用】

二、这个选择ollama模型

三、设置服务器配置

注意:创建应用这些是不花钱的,使用的时候会根据你选的配置进行计费的

四、记住这个公网地址,后面会用到

复制公网地址 这个地址不能直接

五、返回在次创建应用Open WebUI

在返回应用,创建应用LLM 对话页面 Open WebUI

六、输入上面应用的网址

点击下面的创建应用

七、部署完成后访问域名

八、打开访问地址

相关推荐
聚搜云—服务器分享2 天前
阿里云国际站代理商:模型训练中断数据丢失怎么办?
阿里云·云计算
Bruce-li__3 天前
创建私人阿里云docker镜像仓库
阿里云·docker·云计算
Architect_Lee3 天前
阿里云服务器安装docker以及mysql数据库
阿里云·docker·云计算
ZHW_AI课题组3 天前
调用阿里云API实现运营商实名认证
python·阿里云·云计算·api
聚搜云—服务器分享3 天前
阿里云国际站代理商:传统IOE架构向云原生迁移的关键挑战有哪些?
阿里云·云原生·架构
阿斌_bingyu7094 天前
ESP32-CAM对接阿里云平台数据透传
阿里云·云计算
DavidSoCool4 天前
记一个阿里云CDN域名配置不当引起服务鉴权失效问题
阿里云·云计算·cdn
G皮T4 天前
【弹性计算】异构计算云服务和 AI 加速器(四):FPGA 虚拟化技术
阿里云·fpga开发·云计算·虚拟化·fpga·异构计算·弹性计算