本地部署Dify并运行,私有化AI

1、首先要下载源码Dify

2、下载docker

3、在dify源码文件中找到docker 文件,cmd 之后输入启动docker-compose up -d ,关闭是down

4、浏览器输入http://localhost/apps 就成功了

设置好账号密码就可以登录了,

下面是我做了一个AI客服

配置一下工作流

5、当你想改启动的端口号的时候,需要在docker文件夹下找到docker-compose.yaml和.env.example文件找到80,全局替换,然后重新运行就可以了

6、本地下载大模型的话,可以使用ollama ,下载完成之后在cmd中运行,这样就成功安装了

7、在ollma官网找到然后相应的大模型在cmd执行复制的,后面下载速度变慢,可以退出,然后再进行下载,速度又快了

在ollama中配置好你下载的大模型名称

如果你想用通义大模型的话,得去阿里云上配置最后把API Key放到这就可以了

到这就算配置好了,然后这就能运行了,做个搜索啥的没啥问题

相关推荐
阿菜ACai15 小时前
Kimi 新模型发布!教你如何在 Claude Code 上配置并使用最新的 k2.6 模型!
ai
GHL28427109018 小时前
Agent相关问题整理学习
学习·ai
小糖学代码18 小时前
LLM系列:2.pytorch入门:3.基本优化思想与最小二乘法
人工智能·python·算法·机器学习·ai·数据挖掘·最小二乘法
J_bean18 小时前
大语言模型 API Token 消耗深度剖析
人工智能·ai·llm·大语言模型·token
维元码簿19 小时前
Claude Code 深度拆解:上下文里有什么——工具能力声明
ai·agent·claude code·ai coding
j_xxx404_19 小时前
【AI大模型入门(二)】提示词工程进阶
人工智能·ai·prompt
张忠琳20 小时前
【vllm】(二)vLLM v1 Engine — 模块超深度逐行分析之二
ai·架构·vllm
易生一世20 小时前
Kiro CLI的Windows安装及认证
windows·ai·kiro
gao_tjie21 小时前
鱼音频生成 API 集成指南
ai
前端摸鱼匠1 天前
【AI大模型春招面试题25】掩码自注意力(Masked Self-Attention)与普通自注意力的区别?适用场景?
人工智能·ai·面试·大模型·求职招聘