FastGPT部署的一些问题整理

在B站学习 图灵程序员-诸葛 的LangChain快速入门课程之《部署FastGPT构建本地应用》。在我学习课程跟着老师实践的过程中,踩了一些坑。这篇文章以问答的形式记录一下学习中的一些问题,主要面向的读者是,在学习同样的课程的和部署FastGPT遇到各种问题的同学。

为什么下载的config.json和docker-compose.yml文件与课程视频中的差别很大

视频教程和官方文档都说要从FastGPT github仓库的main分支获取config.json和docker-compose.yml。但FastGPT版本发布非常频繁,导致老师视频中展示的配置文件内容和main分支的内容差距较大。从视频内容推测老师使用的是FastGPT 4.8.11版本,所以去下载4.8.11版本中的那两个文件会更好一些。我最终选择下载了4.8.11-fix版本里的文件,链接分别是

使用docker-compose命令启动容器提示fastgpt Error manifest unknown和sandbox Error manifest unknown怎么办?

科学上网后,直接从ghcr.io下载镜像

shell 复制代码
docker pull ghcr.io/labring/fastgpt:v4.8.11-fix
docker pull ghcr.io/labring/fastgpt-sandbox:v4.8.11-fix

等镜像下载完成后再次执行docker-compose命令启动容器。其他版本的镜像地址可以在下面这两个网址里找到

视频教程使用了M3E这个向量模型,一定要用这个吗?

M3E向量模型的docker镜像大小超过了6GB,部署成本比较高,所以我没有选择使用这个向量模型。最终通过One API接入本地Ollama的向量模型运行了FastGPT,目前运行一切良好。

希望本文对你有所帮助。如果有遇到部署的问题,欢迎在评论区讨论。

相关推荐
哈哈你是真的厉害2 分钟前
解构 AIGC 的“核动力”引擎:华为 CANN 如何撑起万亿参数的大模型时代
人工智能·aigc·cann
Ekehlaft3 分钟前
这款国产 AI,让 Python 小白也能玩转编程
开发语言·人工智能·python·ai·aipy
哈__4 分钟前
CANN多模型并发部署方案
人工智能·pytorch
予枫的编程笔记7 分钟前
【Linux入门篇】Linux运维必学:Vim核心操作详解,告别编辑器依赖
linux·人工智能·linux运维·vim操作教程·程序员工具·编辑器技巧·新手学vim
慢半拍iii7 分钟前
对比分析:ops-nn与传统深度学习框架算子的差异
人工智能·深度学习·ai·cann
心疼你的一切9 分钟前
解构CANN仓库:AIGC API从底层逻辑到实战落地,解锁国产化AI生成算力
数据仓库·人工智能·深度学习·aigc·cann
啊阿狸不会拉杆17 分钟前
《机器学习导论》第 5 章-多元方法
人工智能·python·算法·机器学习·numpy·matplotlib·多元方法
薯一个蜂蜜牛奶味的愿18 分钟前
模块化显示神经网络结构的可视化工具--BlockShow
人工智能·深度学习·神经网络
班德先生21 分钟前
深耕多赛道品牌全案策划,为科技与时尚注入商业表达力
大数据·人工智能·科技
哈__22 分钟前
CANN加速强化学习推理:策略网络与价值网络优化
人工智能