vscode接入本地大模型的正确姿势

VSCode Continue 接入本地大模型完整教程

主流两种方式：

✅ 方式1：Ollama（最简单，推荐Mac M系列/新手）

✅ 方式2：OpenAI兼容接口（vLLM/LM Studio/自定义推理服务）

环境：Mac M5 32G，适配Qwen3.6 14B / 27B；Windows/Linux通用

一、方案1：Continue + Ollama（首选）

1. 安装 Ollama

官网下载：https://ollama.com

Mac：brew install ollama

2. 拉取代码模型（推荐）

代码首选 Qwen2.5-Coder / Qwen3.6

ollama pull qwen2.5-coder:14b

如果你要用Qwen3.6

ollama pull qwen3.6:14b

轻量自动补全模型（可选）

ollama pull qwen2.5-coder:7b

验证服务正常：

curl http://localhost:11434/api/tags

能返回模型列表代表服务正常

3. VSCode安装Continue插件

快捷键 Ctrl+Shift+X，搜索 Continue（官方插件），安装重启VSCode。

4. 打开配置文件

两种方式：

1. Continue侧边栏 → ⚙️齿轮 → Open Config

2. 命令面板 Ctrl+Shift+P → Continue: Open Config File

⚠️ 新版Continue使用 config.yaml（不再推荐旧config.json）

Mac路径：~/.continue/config.yaml

Windows：%USERPROFILE%.continue\config.yaml

5. 完整可用配置（直接复制）
   name: Local Ollama Code
   version: 0.0.1
   schema: v1

models:

• name: Qwen3.6 14B (Chat/Edit)
  provider: ollama
  model: qwen3.6:14b
  apiBase: http://localhost:11434
  roles:
  • chat
  • edit
  • apply
    contextWindow: 32768
    maxTokens: 4096
    capabilities:
  • tool_use

【可选】Tab自动代码补全（独立轻量模型）

tabAutocompleteModel:

name: Qwen2.5-Coder 7B

provider: ollama

model: qwen2.5-coder:7b

apiBase: http://localhost:11434

关闭遥测（隐私）

allowAnonymousTelemetry: false

6. 生效

保存文件 → 重启VSCode

Continue顶部模型下拉框选择 Qwen3.6 14B (Chat/Edit) 即可本地离线对话、选中代码修改。

二、方案2：接入vLLM / LM Studio（OpenAI兼容接口）

如果你不用Ollama，自己启动推理服务（例如vLLM、SGLang、LM Studio），使用 provider: openai

name: Local vLLM

version: 0.0.1

schema: v1

models:

• name: Qwen3.6 27B Local
  provider: openai
  model: Qwen3.6-27B-Instruct
  apiBase: http://localhost:8000/v1
  apiKey: dummy # 本地服务无密钥随便填
  roles:
  • chat
  • edit
    LM Studio默认地址：http://localhost:1234/v1

三、Mac M系列（M5 32G）调优建议

1. Ollama常驻加载模型，避免反复加载：

模型保持在内存30分钟

export OLLAMA_KEEP_ALIVE=30m

ollama serve

2. 内存建议：

• Qwen3.6 14B q4_K_M：32G内存流畅运行

• Qwen3.6 27B q4_K_M：32G会轻微swap，关闭其他软件

四、常见报错排坑

1. Failed to connect to Ollama

• Ollama后台没启动；执行 ollama serve

• 防火墙/代理拦截localhost:11434

2. model not found

   yaml内 model: xxx 必须和 ollama list 名称完全一致（区分tag）

3. Tab自动补全不生效

• 确认配置里存在 tabAutocompleteModel

• Continue设置开启「Inline Autocomplete」

4. YAML报错！
   ⚠️ YAML缩进严格，不能用Tab，只能空格，复制后检查缩进。

五、常用快捷键

• Cmd+L：唤起Continue聊天

• Cmd+I：选中代码唤起AI编辑