AI大模型之旅-本地安装llm工具dify 和 fastgpt

一:安装dify

官网地址: https://dify.ai/

克隆 Dify 源代码至本地。

git clone https://github.com/langgenius/dify.git

启动 Dify

进入 Dify 源代码的 docker 目录,执行一键启动命令:

cd dify/docker

cp .env.example .env

docker compose up -d

更新 Dify

进入 dify 源代码的 docker 目录,按顺序执行以下命令:

cd dify/docker

docker compose down

git pull origin main

docker compose pull

docker compose up -d

本地地址:http://xx.xx.xx.xx/

用户名密码需要邀请 个人邮箱:2435931216@qq.com 密码:********

二:安装fastgpt

官网地址:https://doc.fastgpt.in/docs/development/docker/

以下基于docker-compose快速安装,前提环境已经安装好docker和docker-compose环境

mkdir fastgpt

cd fastgpt

curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json

curl -o https://raw.githubusercontent.com/labring/FastGPT/main/files/docker/docker-compose-pgvector.yml

  1. 启动容器

启动容器docker-compose up -d# 等待10s,OneAPI第一次总是要重启几次才能连上Mysql

sleep 10# 重启一次oneapi(由于OneAPI的默认Key有点问题,不重启的话会提示找不到渠道,临时手动重启一次解决,等待作者修复)

docker restart oneapi

  1. 打开 OneAPI 添加模型
    可以通过ip:3001访问OneAPI,默认账号为root密码为123456。
    在OneApi中添加合适的AI模型渠道。点击查看相关教程
  2. 访问 FastGPT
    目前可以通过 ip:3000 直接访问(注意防火墙)。登录用户名为 root,密码为docker-compose.yml环境变量里设置的 DEFAULT_ROOT_PSW
    本地环境地址:http://xx.xx.xx.xx:3000/
    用户名 root 密码 1234
相关推荐
全栈弄潮儿13 小时前
30 天总结:从“会用 AI”到“拥有 AI 开发系统”
aigc·openai·ai编程
Csvn14 小时前
从 request_id 到可视化 trace:Langfuse 全链路追踪实战(O02)
人工智能·aigc
threerocks15 小时前
速来!认领你的「口播Bot」,妈妈再也不用担心我做口播视频了!
人工智能·aigc·ai编程
avi911116 小时前
Unity 介绍一个开源免费图片工具 Tropy 科研.org推荐 - 代表作
游戏·开源·aigc·tropy·图片管理
threerocks16 小时前
Grok Bot 保姆级做视频教程:从一句话需求到全平台成片
aigc·ai编程
小虎AI生活17 小时前
Anthropic 把「善待 AI」写进使用政策:模型福利之争与开发者的实际影响
aigc·ai编程
爱听歌的周童鞋17 小时前
霹雳吧啦Wz | AIGC | 图像生成篇 | Latent Diffusion Model
aigc·vae·unet·image generate·ldm
Rocky Ding*19 小时前
Janus-Pro深度解析:视觉编码解耦之后,统一多模态模型如何通过训练与数据扩展能力
论文阅读·人工智能·深度学习·机器学习·aigc·ai-native·janus-pro
feasibility.20 小时前
MiniMax H3-Base 开源后快速出片:VDN-H3、FastH3和QuantFunc对比分析
aigc·comfyui·图生视频·minimax·openvdn·fastvideo·quantfunc
卿卿的产品经理日记20 小时前
【AI产品经理实战】Day 33|计算机科学速成:从巴贝奇到“AI是围墙“
人工智能·aigc·产品经理