AI大模型之旅-本地安装llm工具dify 和 fastgpt

一:安装dify

官网地址: https://dify.ai/

克隆 Dify 源代码至本地。

git clone https://github.com/langgenius/dify.git

启动 Dify

进入 Dify 源代码的 docker 目录,执行一键启动命令:

cd dify/docker

cp .env.example .env

docker compose up -d

更新 Dify

进入 dify 源代码的 docker 目录,按顺序执行以下命令:

cd dify/docker

docker compose down

git pull origin main

docker compose pull

docker compose up -d

本地地址:http://xx.xx.xx.xx/

用户名密码需要邀请 个人邮箱:2435931216@qq.com 密码:********

二:安装fastgpt

官网地址:https://doc.fastgpt.in/docs/development/docker/

以下基于docker-compose快速安装,前提环境已经安装好docker和docker-compose环境

mkdir fastgpt

cd fastgpt

curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json

curl -o https://raw.githubusercontent.com/labring/FastGPT/main/files/docker/docker-compose-pgvector.yml

  1. 启动容器

启动容器docker-compose up -d# 等待10s,OneAPI第一次总是要重启几次才能连上Mysql

sleep 10# 重启一次oneapi(由于OneAPI的默认Key有点问题,不重启的话会提示找不到渠道,临时手动重启一次解决,等待作者修复)

docker restart oneapi

  1. 打开 OneAPI 添加模型
    可以通过ip:3001访问OneAPI,默认账号为root密码为123456。
    在OneApi中添加合适的AI模型渠道。点击查看相关教程
  2. 访问 FastGPT
    目前可以通过 ip:3000 直接访问(注意防火墙)。登录用户名为 root,密码为docker-compose.yml环境变量里设置的 DEFAULT_ROOT_PSW
    本地环境地址:http://xx.xx.xx.xx:3000/
    用户名 root 密码 1234
相关推荐
云雾J视界40 分钟前
多Stream并发实战:用流水线技术将AIGC服务P99延迟压降63%
aigc·api·cpu·stream·gpu·cuda·多并发
oden2 小时前
Claude用不好浪费钱?10个高级技巧让效率翻3倍
aigc·ai编程·claude
LeeZhao@3 小时前
【狂飙全模态】狂飙AGI-智能答疑助手
数据库·人工智能·redis·语言模型·aigc·agi
虎头金猫4 小时前
MateChat赋能电商行业智能导购:基于DevUI的技术实践
前端·前端框架·aigc·ai编程·ai写作·华为snap·devui
da_vinci_x4 小时前
Sampler AI + 滤波算法:解决 AIGC 贴图“噪点过剩”,构建风格化 PBR 工业管线
人工智能·算法·aigc·材质·贴图·技术美术·游戏美术
国家不保护废物5 小时前
RAG + Agent + Prompt工程中
docker·llm·aigc
南天一梦N6 小时前
新的软件研发范式即将到来!
驱动开发·架构·系统架构·aigc·ai编程
WebCandy6 小时前
【开源】一个丝滑的 Claude Code 环境变量快速切换工具
人工智能·aigc·ai编程
DisonTangor8 小时前
Step-Audio-R1 首个成功实现测试时计算扩展的音频语言模型
人工智能·语言模型·开源·aigc·音视频
阿杰学AI8 小时前
AI核心知识19——大语言模型之SFT(简洁且通俗易懂版)
人工智能·ai·语言模型·aigc·监督微调