05_Dify接入Ollama本地大模型

前言

本文档介绍了在 Dify 平台中集成和使用 Ollama 大模型的具体步骤。首先需要完成 Ollama 的安装与配置。然后登录 Dify,进入设置界面,在模型供应商中找到并安装 Ollama 供应商。接着添加模型,填写模型信息时需注意基础 URL 的设置:若 Dify 与 Ollama 部署在同一 Docker 机器上,使用 http://host.docker.internal:11434;若在不同机器上,则使用本机 IP(如 http://192.168.x.x:11434)。配置完成后,可在 Dify 中创建应用(如聊天助手)并进行测试。

一、安装Ollama

Windows下Ollama安装及常用指令,含软件安装包

二、Dify 中配置 Ollama

2.1 登录 Dify

2.2 进入设置

2.3 模型供应商

2.4 安装模型供应商

找到 Ollama 模型供应商

安装完成

2.5 添加模型

填写模型信息

注意:基础 URL

docker(同一机器)部署 dify:http://host.docker.internal:11434

docker(不同机器)部署 dify:http://192.168.x.x(自己的IP):11434

配置完成

三、Dify 中使用 Ollama 配置的大模型

3.1 创建应用

创建聊天助手

3.2 测试应用

相关推荐
火山引擎开发者社区19 小时前
火山引擎发布《企业级 ArkClaw 安全白皮书》
人工智能
阿里云大数据AI技术20 小时前
Hologres AI Function 文本分类实战:从提示词设计到 KV-Cache 调优,全程 SQL 搞定
人工智能·sql
code_pgf20 小时前
AI-Agent记忆机制分析
大数据·人工智能
阿拉斯攀登1 天前
安全与可控性:输出校验、权限控制
人工智能·chatgpt·agent·memory·claude·知识库·向量数据库
冬奇Lab1 天前
每日一个开源项目(第152篇):SAG - 用 SQL JOIN 代替 PageRank 做多跳 RAG 检索
人工智能·开源
冬奇Lab1 天前
Workflow 系列(09):主流框架对比——Prompt-based、LangGraph、Temporal、n8n 如何选
人工智能·工作流引擎
程序员老猫1 天前
vide coding 个人产品,那就从博客开始吧
人工智能·程序员·全栈
geo搜搜果数据1 天前
实测5大AI平台品牌排名:复现GEO监测流程
人工智能·langchain·搜搜果