MindSearch CPU-only 版部署

MindSearch CPU-only 版部署

MindSearch 是一个由上海人工智能实验室推出的开源 AI 搜索引擎框架,具有与 Perplexity.ai Pro 相同的性能。

本文以 InternStudio 算力平台为例,来部署 CPU-only 的 MindSearch。

环境准备

获取资源

bash 复制代码
mkdir -p /root/mindsearch
cd /root/mindsearch
git clone https://github.com/InternLM/MindSearch.git
cd MindSearch && git checkout b832275 && cd ..

创建虚拟环境

bash 复制代码
# 创建环境
conda create -n mindsearch python=3.10 -y
# 激活环境
conda activate mindsearch
# 安装依赖
pip install -r /root/mindsearch/MindSearch/requirements.txt

chat API服务设置

这里使用网络上的API,使用硅基流动的 API Key,所以接下来便是注册并获取 API Key 了。

首先,我们打开 https://account.siliconflow.cn/login 来注册硅基流动的账号(如果注册过,则直接登录即可)。

在完成注册后,打开 https://cloud.siliconflow.cn/account/ak 来准备 API Key。首先创建新 API 密钥,然后点击密钥进行复制,以备后续使用。
复制密钥备用

export SILICON_API_KEY=sk-odfiftjbwwmwoycqxypwjijkfsmizeplumhlmifajwggtsij

启动mindsearch后端

bash 复制代码
export SILICON_API_KEY=第二步中复制的密钥
conda activate mindsearch
cd /root/mindsearch/MindSearch
python -m mindsearch.app --lang cn --model_format internlm_silicon --search_engine DuckDuckGoSearch

如果报错:

bash 复制代码
ImportError: cannot import name 'AutoRegister' from 'class_registry' (/root/.conda/envs/mindsearch/lib/python3.10/site-packages/class_registry/__init__.py)

则:

bash 复制代码
 pip install --upgrade class_registry

启动mindsearch前端

bash 复制代码
conda activate mindsearch
cd /root/mindsearch/MindSearch
python frontend/mindsearch_gradio.py

默认启动在7882端口:

访问

做下端口映射转发

对话


部署到 HuggingFace Space
(略),连接不上。

相关推荐
说私域3 小时前
从“高密度占有”到“点状渗透”:论“开源AI智能名片链动2+1模式”在S2B2C商城小程序中的渠道革新
人工智能·小程序
limenga1024 小时前
TensorFlow Keras:快速搭建神经网络模型
人工智能·python·深度学习·神经网络·机器学习·tensorflow
KG_LLM图谱增强大模型6 小时前
Vgent:基于图的多模态检索推理增强生成框架GraphRAG,突破长视频理解瓶颈
大数据·人工智能·算法·大模型·知识图谱·多模态
AKAMAI6 小时前
企业如何平衡AI创新与风险
人工智能·云原生·云计算
TDengine (老段)8 小时前
优化 TDengine IDMP 面板编辑的几种方法
人工智能·物联网·ai·时序数据库·tdengine·涛思数据
数据的世界018 小时前
Visual Studio 2026 正式发布:AI 原生 IDE 与性能革命的双向突破
ide·人工智能·visual studio
shayudiandian9 小时前
深度学习中的激活函数全解析:该选哪一个?
人工智能·深度学习
视界先声10 小时前
如何选择合适的养老服务机器人
人工智能·物联网·机器人
RPA机器人就选八爪鱼10 小时前
RPA财务机器人:重塑财务效率,数字化转型的核心利器
大数据·数据库·人工智能·机器人·rpa