开发新体验:基于Ollama+deepseek打造私有化代码助手

前言

在数据安全要求日益提高的今天,如何在不依赖云端服务的情况下获得AI编程辅助?本文将手把手教你使用开源工具搭建本地化Copilot,实现完全离线的智能代码补全。


准备工作

  1. 硬件要求
    • 推荐16GB+内存
    • NVIDIA显卡(非必须,但可提升推理速度)
  1. 软件环境
    • Windows用户必需
    • Ollama服务
    • VS Code 插件Continue - Codestral, Claude, and more

实现步骤

一、部署Ollama服务

1. 下载Ollama安装包

打开浏览器,访问 Ollama 官方网站:ollama.com/download,下载适用于 Windows 的安装程序。

下载地址为:ollama.com/download/Ol...。(可以复制下载链接用迅雷下,会快很多)

下载完成后,双击安装程序并按照提示完成安装。

推荐这么安装: 如果需要将 Ollama 安装到非默认路径,可以在安装时通过命令行指定路径,例如:

ini 复制代码
OllamaSetup.exe /DIR="D:\app\Ollama"

2. 验证安装

打开命令提示符或 PowerShell,输入以下命令验证安装是否成功:

css 复制代码
ollama --version

如果显示版本号,则说明安装成功。

3. 更改安装路径(可选)

如果需要将 Ollama 安装到非默认路径,可以在安装时通过命令行指定路径,例如:

ini 复制代码
OllamaSetup.exe /DIR="D:\app\Ollama"

这样可以将 Ollama 安装到指定的目录。

如果已经安装了,也可以通过迁移目录,修改环境变量来更改安装路径。具体实现,可以参考这篇文章Windows下Ollama安装目录迁移到D盘


二、下载模型

可以在ollama的library库里,找适合自己到电脑配置的模型,进行下载。本人主要是为了做代码开发,有提示,所以选择了deepseek-coder模型进行演示(还有一些不错的模型可以试试,比如deepseek-coder-v2qwen2.5-coder),也是到电脑配置不够,才没有选择deepseek-coder-v2,需要16G.....

1基础下载命令

arduino 复制代码
# 标准6.7b参数版本(需要8GB+显存)
ollama run deepseek-coder:6.7b

# 量化版本推荐(4-bit量化,6GB内存可运行)
ollama run deepseek-coder:33b

2.下载过程演示

如果速度降到几十kb,或者不动的,可以ctrl+c。停止下载,再从新输入下下载指令,就会恢复速度,继续下载

3.查看已下载模型

复制代码
ollama list

4.运行测试对话

arduino 复制代码
# 运行deepseek-coder模型
ollama run deepseek-coder:6.7b

输入你想实现的功能,例如:帮我用js实现一个防抖函数


三、配置VS Code插件

  1. 安装Continue插件
    • 在VS Code扩展商店搜索"Continue"并安装
  1. 修改插件配置
bash 复制代码
{
  "models": [
    {
      "title": "DeepSeek Coder",# title随便写
      "model": "deepseek-coder:6.7b",# 需要和模型名对应
      "provider": "ollama",
      "apiBase": "http://localhost:11434"
    }
  ],
   ...
  "tabAutocompleteModel": {
    "title": "Tab Autocomplete", # title随便写
    "provider": "ollama",
      "model": "deepseek-coder:6.7b",# 需要和模型名对应
    "apiBase": "http://localhost:11434"
  },
  ...
}

注意:model需要和ollama里的模型名称对应

如果和同事在同一局域网,可以让同事把apiBase里的ip,改完你的ip,这样子就可以共用同一个大模型了


四、实战测试

例如,让ai帮忙写个节流函数

跟多使用技巧,可以去看下Continue插件高级配置指南,也可以参考下这篇文章ollama+vscode插件continue,属于自己的copilot


结语

通过本方案,我们实现了:

✅ 完全离线的开发环境

✅ 敏感代码的本地化处理

✅ 定制化的代码补全风格

未来可尝试接入更多本地模型(如deepseek-coder-v2、CodeLlama),或结合RAG技术构建私有知识库。

个人使用感受:

使用起来,肯定不比目前主流的Cursor,GitHub Copilot、TONGYI Lingma等好用,而且比较卡,主要还受限与电脑配置与模型大小。如果不是为了离线开发环境的代码提示,和敏感代码的本地化处理,没必要搞本地部署,还很吃到电脑性能。

如果可以连网,Continue 插件也可以配合api接口平台使用,使用体验也会更好,速度也会更快,家人们可以通过我的邀请(你我各得14元配额)链接进行注册: cloud.siliconflow.cn/i/Opqd7sln。具体可以参考下这篇文章,写的很细使用continue插件+硅基流动平台(支持DeepSeek-V3和R1)后,完全可以抛弃cursor了


参考文章

Ollama 安装

Windows下Ollama安装目录迁移到D盘

ollama+vscode插件continue,属于自己的copilot

相关推荐
chenzhiyuan20187 小时前
《十五五规划》下的AI边缘计算机遇:算力下沉与工业智能化
人工智能·边缘计算
whaosoft-1437 小时前
51c深度学习~合集11
人工智能
Tiandaren7 小时前
大模型应用03 || 函数调用 Function Calling || 概念、思想、流程
人工智能·算法·microsoft·数据分析
领航猿1号8 小时前
Pytorch 内存布局优化:Contiguous Memory
人工智能·pytorch·深度学习·机器学习
综合热讯8 小时前
宠智灵宠物识别AI:从犬猫到鸟鱼的全生态智能识别
人工智能·宠物
zskj_zhyl8 小时前
智慧康养新篇章:七彩喜如何重塑老年生活的温度与尊严
大数据·人工智能·科技·物联网·生活
永霖光电_UVLED9 小时前
IVWorks率先将8英寸GaN纳米线片商业化
人工智能·神经网络·生成对抗网络
如何原谅奋力过但无声9 小时前
TensorFlow 2.x常用函数总结(持续更新)
人工智能·python·tensorflow
qyresearch_10 小时前
大语言模型训推一体机:AI算力革命的“新引擎”,2031年市场规模突破123亿的黄金赛道
人工智能·语言模型·自然语言处理
计算机小手10 小时前
使用 llama.cpp 在本地高效运行大语言模型,支持 Docker 一键启动,兼容CPU与GPU
人工智能·经验分享·docker·语言模型·开源软件