[AI Agent] 完全本地化!将 Aider 和 Ollama 部署在局域网,打造自己的本地 Codex 类 AI 助手

在 AI 助手类工具中,Aider 以其便捷的 Git 进程与 LLM 沟通能力受到广大开发者喜爱;Ollama 则是当前支持最广的本地运行的 LLM 平台之一,支持多种模型如 LLaMA3,Mistral,CodeLlama 等。本文将详细介绍如何在完全本地化和无网环境下,部署 Aider + Ollama,实现类 Codex 能力的自动化编程助手。

一、定位需求:局域网 AI 系统所面临的挑战

局域网环境,特别是严格隔网的内网场景,无法连接外网,无法连 GitHub 下载代码,无法 pip install,也无法连通 PyPI 排版版本等。这些因素需要我们重新设计部署流程,包括:

  • 预先打包好所有 wheel 包;
  • 避免直接拷贝环境,因为路径和 Python 入口失效;
  • 禁止 Aider 启动时去检查 PyPI 版本;
  • 禁止尝试连接 GitHub 查询模型元数据。

二、Ollama 安装与网络分发模型

  1. 制備 Ollama Linux 或 Windows 版本并安装
  2. 从有网机器上下载模型如 llama3:instruct
  3. 使用 ollama pull llama3:instruct
  4. 把 ~/.ollama 文件夹打包移至局域网内网机器
  5. 启动 Ollama :ollama serve
  6. 可选配使用 LAN proxy 分发模型服务

三、安装 Aider 与零网环境重要讲解

1.打包 wheel 包

在可连网的机器上进行:

bash 复制代码
pip download aider -d ./aider_wheels

将该目录整包移动到内网机器,然后手动安装:

bash 复制代码
pip install --no-index --find-links=./aider_wheels aider

2.不推荐直接拷贝 venv 环境

因为 venv 中 Python 路径和 entrypoint 是系统给定的,直接拷贝应用到不同环境很可能无法使用。建议重新创建 venv 并使用已打包的 wheel 安装所有依赖。

四、禁止 PyPI 和 GitHub 连接,加快启动

1.给 aider 加启动参数,禁止 pypi check

启动 Aider 时加上:

bash 复制代码
aider --no-check

2.确定已经修改 models.py,禁止联系 GitHub

打开:

复制代码
~\AppData\Local\Programs\Python\Python312\Lib\site-packages\aider\models.py

查找 _update_cache 函数,修改为:

python 复制代码
def _update_cache(self):
    # Skip remote model metadata fetch (disabled by local patch)
    return

此修改可以禁止在内网环境下对 GitHub 进行网络连接,减少启动等待时间。

五、结论:局网下打造私有 AI 系统无需依赖外部网络

通过本文手动部署方案,可以实现:

  • Aider + Ollama 全部部署在局域网,完全本地化
  • 全部进程可规定依赖打包,无需 pip online
  • 修改启动行为,避免因连接超时造成系统泪动

这种部署方式适合于支持内网工程化自动化工作流程,也是私有化 AI DevOps 模型系统的最佳实践之一。

相关推荐
深海鱼在掘金11 小时前
深入浅出 LangChain —— 第三章:模型抽象层
人工智能·langchain·agent
生信碱移11 小时前
PACells:这个方法可以鉴定疾病/预后相关的重要细胞亚群,作者提供的代码流程可以学习起来了,甚至兼容转录组与 ATAC 两种数据类型!
人工智能·学习·算法·机器学习·数据挖掘·数据分析·r语言
workflower11 小时前
具身智能行业应用-生活服务业
大数据·人工智能·机器人·动态规划·生活
KaneLogger11 小时前
三省六部 Agent 这条路不通
agent·ai编程
GitCode官方12 小时前
基于昇腾 MindSpeed LLM 玩转 DeepSeekV4-Flash 模型的预训练复现部署
人工智能·开源·atomgit
大刘讲IT12 小时前
AI重塑企业信息价值标准:从“系统供给”到“用户定义”的企业数字化新范式
人工智能·经验分享·ai·制造
流年似水~12 小时前
MCP协议实战:从零搭建一个让Claude能“看见“数据库的工具服务
数据库·人工智能·程序人生·ai·ai编程
jay神12 小时前
VisDrone2019-DET 无人机小目标检测数据集
人工智能·深度学习·yolo·目标检测·计算机视觉·毕业设计·无人机
乔江seven12 小时前
【李沐 | 动手学深度学习】17 深度学习硬件:CPU 和 GPU
人工智能·深度学习·深度学习硬件·cpu和gpu
深海鱼在掘金12 小时前
深入浅出 LangChain —— 第二章:环境搭建与快速上手
人工智能·typescript·langchain