FastGPT上使用多种大语言模型

注册MindCraft并创建API KEY

首先我们在智匠MindCraft上注册账号并创建API KEY,参考接口调用文档,查看我们能调用哪些模型。我们可以看到这个开发平台上整合了主流的大语言模型,并且是兼容openai接口的。

docker compose 部署时修改配置文件

填入API KEY以及API地址

修改 config文件

修改成需要的模型型号,并填入相关参数

在应用中测试使用

选择模型,然后输入文字,对话测试

相关推荐
带刺的坐椅1 小时前
用 ChatModel 构建 LLM 驱动的 Java 应用
java·ai·llm·solon·rag·chatmodel
Kyrie6782 小时前
SkillOpt:把 Agent 的技能文件当作可训练参数
人工智能
冬奇Lab3 小时前
Workflow 系列(07):工程化与版本管理——Workflow 的 CI/CD
人工智能·工作流引擎
两万五千个小时3 小时前
Claude Code 上下文管理(一):为什么 Agent 会"失忆"?
人工智能·架构·开源
两万五千个小时3 小时前
Claude Code 上下文管理(二):零 Token 消耗的压缩三板斧
人工智能·程序员·开源
冬奇Lab3 小时前
每日一个开源项目(第150篇):caveman - 为什么用很多 token,少 token 也行——给 AI Agent 装上穴居人嘴巴
人工智能·开源·资讯
贵慜_Derek3 小时前
MAI-04|干净数据在工程上意味着什么:MAI 预训练数据治理
人工智能·算法·llm
feelmylife593 小时前
Agent 记忆设计架构 — 分层记忆:什么时候该记住,什么时候该忘记
人工智能
阿黎梨梨3 小时前
揭秘大语言模型的底层逻辑:从文本分词到高维向量的计算之旅
javascript·人工智能
moMo3 小时前
AI工程化 03:给模型喂上下文
人工智能