2.1 HuggingFists系统架构(二)

部署架构

上图为HuggingFists的部署架构。从架构图可知,HuggingFists主要分为服务器(Server)、计算节点(Node)以及数据库(Storage)三部分。这三部分可以分别部署在不同的机器上,以满足系统的性能需求。为部署方便,HuggingFists社区版将这三部分集成在了一起,缺省情况下只提供了一个计算节点(Node)。

图中有一个带虚线的数据库,该数据库为一个向量数据库。HuggingFists缺省安装时不提供该数据库,需要使用者根据实际需要自行部署。当使用者需要构建能够根据问题自由选择可用工具的AI Agent时,需要部署向量数据库。HuggingFists会将AI Agent需要的工具插入向量数据库,并使用向量数据库的匹配能力检索对应的工具。详细的配置参见系统的安装说明。

相关推荐
chao_666666几秒前
【深度】为GPT-5而生的「草莓」模型!从快思考—慢思考到Self-play RL的强化学习框架
人工智能·深度学习·学习·机器学习
高垚淼16 分钟前
如何构建智能应用:深入探索Langchain的强大功能与应用潜力
人工智能·python·langchain
MavenTalk20 分钟前
Python在进行LLM应用相关开发常用的技术框架
开发语言·python·大模型·llm·大语言模型
深蓝易网40 分钟前
为什么优秀的工厂更重视生产现场
大数据·运维·人工智能·数据分析·制造
openMind开发者1 小时前
Qwen2.5 PyTorch模型微调入门实战
人工智能·python
云起无垠1 小时前
“AI+Security”系列第3期(二):AI赋能自动化渗透测试
人工智能·自动化
说私域1 小时前
开源 AI 智能名片 S2B2C 商城小程序与营销工具的快速迭代
人工智能·小程序
知来者逆1 小时前
EAGLE——探索混合编码器的多模态大型语言模型的设计空间
人工智能·深度学习·语言模型·自然语言处理·llm·大语言模型·多模态
液态不合群2 小时前
低代码革命:重塑工业互联网的未来版图
低代码