【AI工具】本地部署 Dify + Ollama 实现无限 Token 智能体搭建


前言

Dify 是一个开源的智能体搭建平台,支持快速构建 AI 应用。本教程将详细介绍如何将 Dify 运行在本地,并结合 Ollama 使用本地大模型,实现无限 Token 的 AI 开发体验。

为什么选择本地部署?

  • 无限 Token:使用本地模型,不消耗 API 额度
  • 数据安全:所有数据都在本地,不上传云端
  • 灵活定制:支持自定义模型和行为
  • 离线可用:无需网络即可使用

⚠️ 系统要求:macOS 版本需大于 14.0

一、环境准备

1.1 下载 Docker

Docker 是容器化平台,用于运行 Dify 的各个服务组件。

下载地址https://www.docker.com

1.2 下载 Ollama

Ollama 是本地大模型运行平台,支持一键部署和运行各种开源大模型。

下载地址https://ollama.com

1.3 下载模型

安装完 Ollama 后,可以在官网的模型广场选择需要的模型,或者直接在 Ollama 聊天界面选择。

模型广场https://ollama.com/models

二、Dify 项目部署

2.1 拉取 Dify 项目

本教程使用 Gitee 镜像源拉取,速度更快:

bash 复制代码
git clone https://gitee.com/dify_ai/dify.git

拉取成功的日志:

bash 复制代码
Cloning into 'dify'...
remote: Enumerating objects: 496996, done.
remote: Counting objects: 100% (143449/143449), done.
remote: Compressing objects: 100% (70082/70082), done.
remote: Total 496996 (delta 109997), reused 103322 (delta 70904), pack-reused 353547 (from 1)
Receiving objects: 100% (496996/496996), 285.89 MiB | 3.30 MiB/s, done.
Updating files: 100% (11081/11081), done.

2.2 配置环境文件

进入 Dify 目录,复制环境配置文件:

bash 复制代码
cd dify
cp .env.example .env

2.3 启动 Docker 容器

进入 docker 文件夹,启动所有服务:

bash 复制代码
cd docker
docker compose up -d

💡 提示:如果首次启动失败,多尝试几次即可。

2.4 验证部署结果

打开 Docker Desktop,检查容器运行状态:

2.5 配置 Docker 镜像加速(可选)

为了后续下载更流畅,建议配置国内镜像加速器:

三、Dify 基础配置

3.1 创建账号

浏览器访问 Dify:http://localhost/signin

使用邮箱和密码注册账号(本地数据,账号信息可自定义)。

3.2 配置 Ollama 模型

  1. 点击右上角头像 → 设置
  1. 前往插件市场,搜索并安装 Ollama 插件

Ollama 插件地址:https://marketplace.dify.ai/search/all?q=ollama

  1. 安装完成后,在设置中添加模型
  1. 模型配置参考

四、创建第一个智能体

4.1 进入工作室

回到 Dify 首页,点击创建空白应用

4.2 智能体配置

进入智能体创建页面,可根据需求配置:

  • 🤖 模型选择:选择已配置的 Ollama 模型
  • 💬 对话设定:设置智能体角色和行为
  • 🔧 工具调用:配置需要的工具插件
  • 📝 提示词:编写系统提示词

五、常见问题

Q1:Docker 容器启动失败?

bash 复制代码
# 查看容器日志
docker logs <container_name>

# 重启所有容器
docker compose restart

Q2:Ollama 模型下载慢?

bash 复制代码
# 使用代理或镜像源
export OLLAMA_HOST=https://your-proxy.com

Q3:无法连接 Ollama?

确保 Ollama 服务正在运行:

bash 复制代码
# 检查 Ollama 状态
curl http://localhost:11434

六、总结

通过本教程,你已经成功在本地部署了 Dify + Ollama 环境,可以:

  • 🎯 创建各种类型的 AI 智能体
  • 💰 节省 API 调用成本
  • 🔒 保证数据隐私安全
  • 🚀 快速迭代 AI 应用

相关资源

资源 链接
Dify 官网 https://dify.ai
Ollama 官网 https://ollama.com
Dify GitHub https://github.com/langgenius/dify
Ollama 模型库 https://ollama.com/library

📢 作者 :VON

🔗 博客https://blog.csdn.net/2302_80329073

如果对你有帮助,欢迎点赞、收藏!

相关推荐
ZPC82102 小时前
arm_controller/follow_joint_trajectory action
人工智能·计算机视觉·机器人
夜瞬2 小时前
NLP学习笔记04:情感分析——从词典方法到 BERT
笔记·学习·自然语言处理
人工智能AI技术2 小时前
向量数据库基础:给智能体提供长期精准记忆
人工智能
sp_fyf_20242 小时前
【大语言模型】 揭开指令混合用于大语言模型微调的神秘面纱
人工智能·深度学习·神经网络·机器学习·语言模型·自然语言处理
阿杰学AI2 小时前
AI核心知识121—大语言模型之 基于人类反馈的强化学习 (简洁且通俗易懂版)
人工智能·深度学习·ai·语言模型·强化学习·奖励模型·rm
花椒技术2 小时前
从 1.5 秒到 660ms,直播间首屏秒开是怎么做出来的?
人工智能·后端·全栈
夜瞬2 小时前
NLP学习笔记04:情感分析实践练习实现说明
笔记·学习·自然语言处理
薛定猫AI2 小时前
【技术干货】Hermes Agent v0.9.0 深度解析:开源 AI Agent 的跨平台生态进化
人工智能·开源
黄焖鸡能干四碗2 小时前
网络安全风险评估报告(WORD版本)
大数据·运维·网络·人工智能·制造