VS Code 中把「自己部署的 Coder 模型」变成 AI 编程助手

公司内部部署了一个QWen-Coder的7B小模型,这个模型虽然不大,但是验证后发现效果还不错。

所以,希望能够在VS Code中使用这个模型来辅助编写代码,这样就可以避免使用其他付费模型。

1. 安装插件

在 VS Code 的开源 AI 插件中,Continue 这个插件评价还不错,功能也能满足要求:

  • 同时支持「对话」和「Tab 自动补全」两种交互方式
  • 后端可接任何兼容 OpenAI API 格式的模型(本地/云端均可)
  • 完全离线运行,保护源码隐私

因此,决定使用此插件来构建AI编程助手。

插件在:https://marketplace.visualstudio.com/items?itemName=Continue.continue

安装之后,VS Code 的边栏上会多一个图标。

2. 配置本地模型

接下来,我们配置它使用我们自己部署的模型:

依次点击左侧活动栏上 Continue 图标 -->选择Models --> 右上角齿轮。

就可以打开 Continue 的配置文件(yaml格式的),然后参照如上图的配置。

配置文件中,各个元素的含义如下:

  1. 基本信息
yaml 复制代码
name: Local Assistant
version: 1.0.0	
schema: v1
  • name: 配置名称,标识为 "Local Assistant"(本地助手)。
  • version: 配置文件版本(1.0.0)。
  • schema: 使用的配置架构版本(v1)。
  1. 模型配置
yaml 复制代码
models:
  - name: Qwen2.5-Coder-7B-Instruct
    provider: "openai"
    model: "Qwen2.5-Coder-7B-Instruct"
    apiBase: "http://ip:port/v1"
    apiKey: ""
    completion_options:
      temperature: 0.5
      top_p: 0.9
    roles:
      - chat
      - autocomplete
      - edit
      - apply
  • 模型定义:使用 Qwen2.5-Coder-7B-Instruct(一个针对代码任务的7B参数模型)。
    • provider: 设置为 "openai",表示兼容OpenAI API格式(这里根据你的实际情况修改)。
    • apiBase: 模型API的终端地址(http://ip:port/v1),指向一个本地或远程服务。
    • apiKey: 你的模型API密钥。
  • 生成参数:
    • temperature: 0.5(平衡生成结果的创造性和确定性)。
    • top_p: 0.9(核采样,限制生成时仅考虑概率最高的90% token)。
  • 支持的功能 (roles):
    • chat: 对话交互。
    • autocomplete: 代码自动补全。
    • edit: 代码编辑。
    • apply: 可能指应用代码更改。
  1. 上下文集成
yaml 复制代码
context:
  - provider: code
  - provider: docs
  - provider: diff
  - provider: terminal
  - provider: problems
  - provider: folder
  - provider: codebase

配置工具可访问的上下文来源(增强模型对当前任务的理解):

  • code: 当前编辑的代码文件。
  • docs: 项目文档或注释。
  • diff: 代码变更差异(如Git diff)。
  • terminal: 终端输出或命令历史。
  • problems: 错误或警告(如IDE提示)。
  • folder: 当前目录文件结构。
  • codebase: 整个代码库的元信息(如符号定义)。

总得来说,此配置文件定义了一个本地代码助手,通过HTTP API连接到一个 Qwen2.5-Coder 模型,支持代码补全、编辑、聊天等功能,并集成了开发环境的多维度上下文(代码、终端、文档等)。

3. 验证效果

最后,我们来验证下模型的效果。

首先 **@** 一个代码文件,下面的示例中是我的一个工程中的代码:

接下来,我们让AI帮我们生成CreateTask这个函数的代码:

然后,点击生成的代码右上角的 【Apply】按钮,就能将生成的代码填充到文件中。

点击右上角绿色的勾,就能将代码写入文件,如果代码有错误,可以继续通过prompt交互来修改代码,

或者直接修改代码文件也行。

4. 总结

十分钟内,你就能在 VS Code 里用上「完全属于自己」的 AI 编程助手,既省钱又安心。Happy coding!

相关推荐
wflynn10 小时前
Google 观察到首个全自动化网络攻击,AI 框架已能独立完成漏洞利用
ai·技术
zdr尽职尽责12 小时前
终端工具凭空消失:Codex + GPT-6 的一次完整排障复盘
数据库·gpt·学习·ai
佛系18914 小时前
从服务端日志精确分离搜索抓取、监控探测与真实流量的实操清单
ai·大模型·seo·geo·结构化数据·indexnow
一起学安全技术19 小时前
拆大模型 11|大模型面试拷问:12 问逐层拆
人工智能·ai·语言模型·面试·职场和发展·求职招聘
TomEval1 天前
【测AI】第26篇:线上模型监控与告警体系 — 测试不是终点
人工智能·python·功能测试·ai
AI算力2 天前
企业调研——工业边缘计算隐形黑马,腾视科技以“硬件+算法”加速出海落地!
人工智能·ai·边缘计算·ai算力·无人叉车·物理ai·ainas
真上帝的左手2 天前
26. AI-大语言模型-基础
人工智能·ai·架构·llm·大语言模型
七夜zippoe3 天前
流式输出:让 AI 回答像打字机一样实时返回(SSE 全链路实战)
人工智能·spring·ai·流式输出·ssf
装不满的克莱因瓶3 天前
【AI时代必学】一篇文章教会你从零搭建Serverless架构
java·人工智能·ai·云原生·架构·serverless
七夜zippoe3 天前
多轮对话管理:Session/记忆在 Java 后端怎么存(存储设计实战)
java·开发语言·ai·session·记忆