Windows本地部署OpenManus并接入Mistral模型的实践记录

文章目录

  • 前言
  • 环境准备
    • [1. 安装Conda](#1. 安装Conda)
    • [2. 创建并激活环境](#2. 创建并激活环境)
  • 安装Ollama
    • [1. 下载并安装Ollama](#1. 下载并安装Ollama)
    • [2. 拉取Mistral模型](#2. 拉取Mistral模型)
  • 安装OpenManus
    • [1. 克隆仓库](#1. 克隆仓库)
    • [2. 安装依赖](#2. 安装依赖)
    • [3. 配置OpenManus](#3. 配置OpenManus)
  • 连接OpenManus与Ollama
    • [1. 网络配置](#1. 网络配置)
    • [2. 启动服务](#2. 启动服务)
  • 总结与心得

前言

最近Manus作为一款强大的本地LLM应用平台引起了广泛关注,但遗憾的是它需要邀请码才能使用,这让很多想尝试的开发者望而却步。令人惊喜的是,OpenManus团队仅用了3小时就复刻了一个功能相似的开源替代方案。这让我非常兴奋,立刻决定尝试在本地部署OpenManus,并搭配Ollama运行的Mistral:latest模型,打造一套完全私有化的AI对话系统。本文将记录我在Windows环境下的完整部署过程,希望能给有类似需求的朋友提供参考。

环境准备

首先,我选择使用Conda来创建一个独立的Python环境,这样可以避免依赖冲突问题。

1. 安装Conda

如果你还没有安装Conda,可以先从官网下载Miniconda:Miniconda

这里输入我们的邮箱,然后点击Submit提交,随后会跳转到安装页面

我下载了Windows 64位的安装包,安装过程按默认选项一路下一步即可。安装完成后,打开命令提示符或PowerShell,确认安装成功:

bash 复制代码
conda --version

2. 创建并激活环境

接下来创建一个专用的环境用于OpenManus:

bash 复制代码
conda create -n open_manus python=3.12
conda activate open_manus

安装Ollama

1. 下载并安装Ollama

前往Ollama官网下载Windows版本的安装程序。安装过程很简单,双击exe文件并按提示完成即可。安装完成后,Ollama会在后台运行,可以在系统托盘找到它的图标。

安装完成后,打开命令提示符或PowerShell输入ollama --version,确认安装成功:

2. 拉取Mistral模型

打开命令提示符,运行:

bash 复制代码
ollama run mistral

这一步会下载Mistral模型文件,根据网络状况可能需要一段时间(文件大约7GB左右)。完成后可以测试一下:

如果能看到模型返回的回答,说明Ollama工作正常。

安装OpenManus

1. 克隆仓库

在激活的conda环境中,我首先克隆了OpenManus的代码库:

bash 复制代码
git clone https://github.com/mannaandpoem/OpenManus.git
cd OpenManus

2. 安装依赖

bash 复制代码
pip install -r requirements.txt

这一步可能会有一些依赖冲突,我遇到了numpy版本的问题,通过以下方式解决:

bash 复制代码
pip install numpy==1.23.5

然后再次运行pip install -r requirements.txt完成安装。

3. 配置OpenManus

OpenManus的配置主要在config.yaml文件中,我复制了示例配置并进行了修改:

bash 复制代码
copy config\config.example.toml config\config.toml

使用文本编辑器打开config.yaml,将LLM部分配置修改为:

连接OpenManus与Ollama

1. 网络配置

确保Ollama的API可以被OpenManus访问。Ollama默认在11434端口提供服务,我检查了Windows防火墙设置,确保这个端口没有被阻止。

2. 启动服务

现在可以启动OpenManus服务了:

bash 复制代码
python main.py

首次启动时,OpenManus会尝试连接Ollama服务并验证Mistral模型是否可用。在控制台上应该能看到成功连接的日志信息。

总结与心得

通过这次本地部署OpenManus和Mistral模型的实践,我获得了一套完全私有化的AI对话系统。这种开源替代方案不需要像原版Manus那样等待邀请码,任何人都可以立即部署使用,真正体现了开源社区的力量。

与云服务相比,虽然部署过程更复杂一些,但数据完全在本地,没有隐私泄露的风险,而且没有API调用费用,非常适合个人或小团队使用。

Mistral:latest模型的表现让我很惊喜,在多数日常任务中,它的回答质量已经可以满足我的需求,而且本地运行的响应速度也相当不错。

最后,通过Conda管理环境确实是个明智的选择,它让我能够随时切换、升级或回滚环境,而不影响系统中的其他Python项目。

希望这篇部署记录对感兴趣的朋友有所帮助!如果你有任何问题或改进建议,欢迎留言交流。

相关推荐
阿_旭3 分钟前
基于YOLO11深度学习的运动品牌LOGO检测与识别系统【python源码+Pyqt5界面+数据集+训练代码】
人工智能·python·深度学习·毕业设计·logo检测
SomeB1oody3 分钟前
【Python机器学习】1.9. 逻辑回归实战(进阶):建立二阶边界模型
人工智能·python·机器学习·ai·逻辑回归
东临碣石828 分钟前
【AI论文】GEN3C: 基于3D信息的全球一致视频生成技术,实现精确相机控制
人工智能·数码相机·3d
walker_sunxy12 分钟前
AI 漫画生成器:从收集热点事件到生成漫画
llm
源码姑娘15 分钟前
基于OpenCV的车牌识别系统(源码+论文+部署教程)
人工智能·毕业设计
我码玄黄16 分钟前
大模型时代,为什么模型都是多少B?
人工智能·llm
Dmatteratall20 分钟前
目标检测热力图的生成代码(基于GridCam)生成的
人工智能·目标检测·计算机视觉
没学上了28 分钟前
逻辑回归机器学习
人工智能·深度学习·逻辑回归
CITY_OF_MO_GY1 小时前
Spark-TTS:基于大模型的文本语音合成工具
人工智能·深度学习·语音识别
阿丢是丢心心1 小时前
【从0到1搞懂大模型】神经网络的实现:数据策略、模型调优与评估体系(3)
人工智能·深度学习·神经网络