开发新体验:基于Ollama+deepseek打造私有化代码助手

前言

在数据安全要求日益提高的今天,如何在不依赖云端服务的情况下获得AI编程辅助?本文将手把手教你使用开源工具搭建本地化Copilot,实现完全离线的智能代码补全。


准备工作

  1. 硬件要求
    • 推荐16GB+内存
    • NVIDIA显卡(非必须,但可提升推理速度)
  1. 软件环境
    • Windows用户必需
    • Ollama服务
    • VS Code 插件Continue - Codestral, Claude, and more

实现步骤

一、部署Ollama服务

1. 下载Ollama安装包

打开浏览器,访问 Ollama 官方网站:ollama.com/download,下载适用于 Windows 的安装程序。

下载地址为:ollama.com/download/Ol...。(可以复制下载链接用迅雷下,会快很多)

下载完成后,双击安装程序并按照提示完成安装。

推荐这么安装: 如果需要将 Ollama 安装到非默认路径,可以在安装时通过命令行指定路径,例如:

ini 复制代码
OllamaSetup.exe /DIR="D:\app\Ollama"

2. 验证安装

打开命令提示符或 PowerShell,输入以下命令验证安装是否成功:

css 复制代码
ollama --version

如果显示版本号,则说明安装成功。

3. 更改安装路径(可选)

如果需要将 Ollama 安装到非默认路径,可以在安装时通过命令行指定路径,例如:

ini 复制代码
OllamaSetup.exe /DIR="D:\app\Ollama"

这样可以将 Ollama 安装到指定的目录。

如果已经安装了,也可以通过迁移目录,修改环境变量来更改安装路径。具体实现,可以参考这篇文章Windows下Ollama安装目录迁移到D盘


二、下载模型

可以在ollama的library库里,找适合自己到电脑配置的模型,进行下载。本人主要是为了做代码开发,有提示,所以选择了deepseek-coder模型进行演示(还有一些不错的模型可以试试,比如deepseek-coder-v2qwen2.5-coder),也是到电脑配置不够,才没有选择deepseek-coder-v2,需要16G.....

1基础下载命令

arduino 复制代码
# 标准6.7b参数版本(需要8GB+显存)
ollama run deepseek-coder:6.7b

# 量化版本推荐(4-bit量化,6GB内存可运行)
ollama run deepseek-coder:33b

2.下载过程演示

如果速度降到几十kb,或者不动的,可以ctrl+c。停止下载,再从新输入下下载指令,就会恢复速度,继续下载

3.查看已下载模型

复制代码
ollama list

4.运行测试对话

arduino 复制代码
# 运行deepseek-coder模型
ollama run deepseek-coder:6.7b

输入你想实现的功能,例如:帮我用js实现一个防抖函数


三、配置VS Code插件

  1. 安装Continue插件
    • 在VS Code扩展商店搜索"Continue"并安装
  1. 修改插件配置
bash 复制代码
{
  "models": [
    {
      "title": "DeepSeek Coder",# title随便写
      "model": "deepseek-coder:6.7b",# 需要和模型名对应
      "provider": "ollama",
      "apiBase": "http://localhost:11434"
    }
  ],
   ...
  "tabAutocompleteModel": {
    "title": "Tab Autocomplete", # title随便写
    "provider": "ollama",
      "model": "deepseek-coder:6.7b",# 需要和模型名对应
    "apiBase": "http://localhost:11434"
  },
  ...
}

注意:model需要和ollama里的模型名称对应

如果和同事在同一局域网,可以让同事把apiBase里的ip,改完你的ip,这样子就可以共用同一个大模型了


四、实战测试

例如,让ai帮忙写个节流函数

跟多使用技巧,可以去看下Continue插件高级配置指南,也可以参考下这篇文章ollama+vscode插件continue,属于自己的copilot


结语

通过本方案,我们实现了:

✅ 完全离线的开发环境

✅ 敏感代码的本地化处理

✅ 定制化的代码补全风格

未来可尝试接入更多本地模型(如deepseek-coder-v2、CodeLlama),或结合RAG技术构建私有知识库。

个人使用感受:

使用起来,肯定不比目前主流的Cursor,GitHub Copilot、TONGYI Lingma等好用,而且比较卡,主要还受限与电脑配置与模型大小。如果不是为了离线开发环境的代码提示,和敏感代码的本地化处理,没必要搞本地部署,还很吃到电脑性能。

如果可以连网,Continue 插件也可以配合api接口平台使用,使用体验也会更好,速度也会更快,家人们可以通过我的邀请(你我各得14元配额)链接进行注册: cloud.siliconflow.cn/i/Opqd7sln。具体可以参考下这篇文章,写的很细使用continue插件+硅基流动平台(支持DeepSeek-V3和R1)后,完全可以抛弃cursor了


参考文章

Ollama 安装

Windows下Ollama安装目录迁移到D盘

ollama+vscode插件continue,属于自己的copilot

相关推荐
北京耐用通信5 分钟前
全域适配工业场景耐达讯自动化Modbus TCP 转 PROFIBUS 网关轻松实现以太网与现场总线互通
网络·人工智能·网络协议·自动化·信息与通信
火山引擎开发者社区8 分钟前
TRAE × 火山引擎 Supabase:为你的 AI 应用装上“数据引擎”
人工智能
小a彤35 分钟前
GE 在 CANN 五层架构中的位置
人工智能·深度学习·transformer
前端若水1 小时前
会话管理:创建、切换、删除对话历史
前端·人工智能·python·react.js
Upsy-Daisy1 小时前
AI Agent 项目学习笔记(八):Tool Calling 工具调用机制总览
人工智能·笔记·学习
企学宝1 小时前
企学宝5月专题课程丨《OpenClaw AI 智能体实战营:从零基础部署到全场景自动化落地》
人工智能·ai·企业培训
冬奇Lab2 小时前
让 AI Agent 更可靠:Harness Engineering 与多 Agent 系统工程实践
人工智能·llm·agent
放下华子我只抽RuiKe52 小时前
React 从入门到生产(四):自定义 Hook
前端·javascript·人工智能·深度学习·react.js·自然语言处理·前端框架
想你依然心痛2 小时前
HarmonyOS 6(API 23)实战:基于悬浮导航、沉浸光感与HMAF的“文思智脑“——PC端AI智能体沉浸式智能写作工作台
人工智能·ar·harmonyos·ai写作
冬奇Lab2 小时前
一天一个开源项目(第108篇):Andrej Karpathy Skills - 用一个 CLAUDE.md 文件修复 LLM 编码的四个顽疾
人工智能·开源·资讯