开发新体验:基于Ollama+deepseek打造私有化代码助手

前言

在数据安全要求日益提高的今天,如何在不依赖云端服务的情况下获得AI编程辅助?本文将手把手教你使用开源工具搭建本地化Copilot,实现完全离线的智能代码补全。


准备工作

  1. 硬件要求
    • 推荐16GB+内存
    • NVIDIA显卡(非必须,但可提升推理速度)
  1. 软件环境
    • Windows用户必需
    • Ollama服务
    • VS Code 插件Continue - Codestral, Claude, and more

实现步骤

一、部署Ollama服务

1. 下载Ollama安装包

打开浏览器,访问 Ollama 官方网站:ollama.com/download,下载适用于 Windows 的安装程序。

下载地址为:ollama.com/download/Ol...。(可以复制下载链接用迅雷下,会快很多)

下载完成后,双击安装程序并按照提示完成安装。

推荐这么安装: 如果需要将 Ollama 安装到非默认路径,可以在安装时通过命令行指定路径,例如:

ini 复制代码
OllamaSetup.exe /DIR="D:\app\Ollama"

2. 验证安装

打开命令提示符或 PowerShell,输入以下命令验证安装是否成功:

css 复制代码
ollama --version

如果显示版本号,则说明安装成功。

3. 更改安装路径(可选)

如果需要将 Ollama 安装到非默认路径,可以在安装时通过命令行指定路径,例如:

ini 复制代码
OllamaSetup.exe /DIR="D:\app\Ollama"

这样可以将 Ollama 安装到指定的目录。

如果已经安装了,也可以通过迁移目录,修改环境变量来更改安装路径。具体实现,可以参考这篇文章Windows下Ollama安装目录迁移到D盘


二、下载模型

可以在ollama的library库里,找适合自己到电脑配置的模型,进行下载。本人主要是为了做代码开发,有提示,所以选择了deepseek-coder模型进行演示(还有一些不错的模型可以试试,比如deepseek-coder-v2qwen2.5-coder),也是到电脑配置不够,才没有选择deepseek-coder-v2,需要16G.....

1基础下载命令

arduino 复制代码
# 标准6.7b参数版本(需要8GB+显存)
ollama run deepseek-coder:6.7b

# 量化版本推荐(4-bit量化,6GB内存可运行)
ollama run deepseek-coder:33b

2.下载过程演示

如果速度降到几十kb,或者不动的,可以ctrl+c。停止下载,再从新输入下下载指令,就会恢复速度,继续下载

3.查看已下载模型

复制代码
ollama list

4.运行测试对话

arduino 复制代码
# 运行deepseek-coder模型
ollama run deepseek-coder:6.7b

输入你想实现的功能,例如:帮我用js实现一个防抖函数


三、配置VS Code插件

  1. 安装Continue插件
    • 在VS Code扩展商店搜索"Continue"并安装
  1. 修改插件配置
bash 复制代码
{
  "models": [
    {
      "title": "DeepSeek Coder",# title随便写
      "model": "deepseek-coder:6.7b",# 需要和模型名对应
      "provider": "ollama",
      "apiBase": "http://localhost:11434"
    }
  ],
   ...
  "tabAutocompleteModel": {
    "title": "Tab Autocomplete", # title随便写
    "provider": "ollama",
      "model": "deepseek-coder:6.7b",# 需要和模型名对应
    "apiBase": "http://localhost:11434"
  },
  ...
}

注意:model需要和ollama里的模型名称对应

如果和同事在同一局域网,可以让同事把apiBase里的ip,改完你的ip,这样子就可以共用同一个大模型了


四、实战测试

例如,让ai帮忙写个节流函数

跟多使用技巧,可以去看下Continue插件高级配置指南,也可以参考下这篇文章ollama+vscode插件continue,属于自己的copilot


结语

通过本方案,我们实现了:

✅ 完全离线的开发环境

✅ 敏感代码的本地化处理

✅ 定制化的代码补全风格

未来可尝试接入更多本地模型(如deepseek-coder-v2、CodeLlama),或结合RAG技术构建私有知识库。

个人使用感受:

使用起来,肯定不比目前主流的Cursor,GitHub Copilot、TONGYI Lingma等好用,而且比较卡,主要还受限与电脑配置与模型大小。如果不是为了离线开发环境的代码提示,和敏感代码的本地化处理,没必要搞本地部署,还很吃到电脑性能。

如果可以连网,Continue 插件也可以配合api接口平台使用,使用体验也会更好,速度也会更快,家人们可以通过我的邀请(你我各得14元配额)链接进行注册: cloud.siliconflow.cn/i/Opqd7sln。具体可以参考下这篇文章,写的很细使用continue插件+硅基流动平台(支持DeepSeek-V3和R1)后,完全可以抛弃cursor了


参考文章

Ollama 安装

Windows下Ollama安装目录迁移到D盘

ollama+vscode插件continue,属于自己的copilot

相关推荐
落樱弥城13 分钟前
角点特征:从传统算法到深度学习算法演进
人工智能·深度学习·算法
StarRocks_labs24 分钟前
StarRocks MCP Server 开源发布:为 AI 应用提供强大分析中枢
数据库·starrocks·人工智能·开源·olap·mcp
珂朵莉MM1 小时前
2024 睿抗机器人开发者大赛CAIP-编程技能赛-专科组(国赛)解题报告 | 珂学家
开发语言·人工智能·算法·leetcode·职场和发展·深度优先·图论
ㄣ知冷煖★1 小时前
【论文阅读】A Survey on Multimodal Large Language Models
人工智能·语言模型·自然语言处理
视觉语言导航2 小时前
兼顾长、短视频任务的无人机具身理解!AirVista-II:面向动态场景语义理解的无人机具身智能体系统
人工智能·无人机·具身智能
墨绿色的摆渡人2 小时前
pytorch小记(二十二):全面解读 PyTorch 的 `torch.cumprod`——累积乘积详解与实战示例
人工智能·pytorch·python
moonsims2 小时前
低空态势感知:基于AI的DAA技术是低空飞行的重要安全保障-机载端&地面端
人工智能·安全
若叶时代2 小时前
数据分析_Python
人工智能·python·数据分析
虾球xz3 小时前
游戏引擎学习第286天:开始解耦实体行为
c++·人工智能·学习·游戏引擎
武子康3 小时前
大语言模型 11 - 从0开始训练GPT 0.25B参数量 MiniMind2 准备数据与训练模型 DPO直接偏好优化
人工智能·gpt·ai·语言模型·自然语言处理