2.1 HuggingFists系统架构(二)

部署架构

上图为HuggingFists的部署架构。从架构图可知,HuggingFists主要分为服务器(Server)、计算节点(Node)以及数据库(Storage)三部分。这三部分可以分别部署在不同的机器上,以满足系统的性能需求。为部署方便,HuggingFists社区版将这三部分集成在了一起,缺省情况下只提供了一个计算节点(Node)。

图中有一个带虚线的数据库,该数据库为一个向量数据库。HuggingFists缺省安装时不提供该数据库,需要使用者根据实际需要自行部署。当使用者需要构建能够根据问题自由选择可用工具的AI Agent时,需要部署向量数据库。HuggingFists会将AI Agent需要的工具插入向量数据库,并使用向量数据库的匹配能力检索对应的工具。详细的配置参见系统的安装说明。

相关推荐
2401_897930061 小时前
tensorflow常用使用场景
人工智能·python·tensorflow
deepdata_cn2 小时前
开源混合专家大语言模型(DBRX)
人工智能·语言模型
deepdata_cn2 小时前
开源本地LLM推理引擎(Cortex AI)
人工智能·推理引擎
说私域3 小时前
“互联网 +”时代商业生态变革:以开源 AI 智能名片链动 2+1 模式 S2B2C 商城小程序为例
人工智能·小程序·开源
stbomei3 小时前
AI大模型如何重塑日常?从智能办公到生活服务的5个核心改变
人工智能
酷飞飞3 小时前
错误是ModuleNotFoundError: No module named ‘pip‘解决“找不到 pip”
人工智能·python·pip
点云SLAM4 小时前
PyTorch 中.backward() 详解使用
人工智能·pytorch·python·深度学习·算法·机器学习·机器人
androidstarjack4 小时前
波士顿动力给机器人装上AI大脑,人类故意使绊子也不怕了!
人工智能·机器人
Learn Beyond Limits5 小时前
Transfer Learning|迁移学习
人工智能·python·深度学习·神经网络·机器学习·ai·吴恩达
程序员三明治5 小时前
三、神经网络
人工智能·深度学习·神经网络