VS Code 中把「自己部署的 Coder 模型」变成 AI 编程助手

公司内部部署了一个QWen-Coder的7B小模型,这个模型虽然不大,但是验证后发现效果还不错。

所以,希望能够在VS Code中使用这个模型来辅助编写代码,这样就可以避免使用其他付费模型。

1. 安装插件

在 VS Code 的开源 AI 插件中,Continue 这个插件评价还不错,功能也能满足要求:

  • 同时支持「对话」和「Tab 自动补全」两种交互方式
  • 后端可接任何兼容 OpenAI API 格式的模型(本地/云端均可)
  • 完全离线运行,保护源码隐私

因此,决定使用此插件来构建AI编程助手。

插件在:marketplace.visualstudio.com/items?itemN...

安装之后,VS Code 的边栏上会多一个图标。

2. 配置本地模型

接下来,我们配置它使用我们自己部署的模型:

依次点击左侧活动栏上 Continue 图标 -->选择Models --> 右上角齿轮。

就可以打开 Continue 的配置文件(yaml格式的),然后参照如上图的配置。

配置文件中,各个元素的含义如下:

  1. 基本信息
yaml 复制代码
name: Local Assistant
version: 1.0.0	
schema: v1
  • name: 配置名称,标识为 "Local Assistant"(本地助手)。
  • version: 配置文件版本(1.0.0)。
  • schema: 使用的配置架构版本(v1)。
  1. 模型配置
yaml 复制代码
models:
  - name: Qwen2.5-Coder-7B-Instruct
    provider: "openai"
    model: "Qwen2.5-Coder-7B-Instruct"
    apiBase: "http://ip:port/v1"
    apiKey: ""
    completion_options:
      temperature: 0.5
      top_p: 0.9
    roles:
      - chat
      - autocomplete
      - edit
      - apply
  • 模型定义:使用 Qwen2.5-Coder-7B-Instruct(一个针对代码任务的7B参数模型)。
    • provider: 设置为 "openai",表示兼容OpenAI API格式(这里根据你的实际情况修改)。
    • apiBase: 模型API的终端地址(http://ip:port/v1),指向一个本地或远程服务。
    • apiKey: 你的模型API密钥。
  • 生成参数:
    • temperature: 0.5(平衡生成结果的创造性和确定性)。
    • top_p: 0.9(核采样,限制生成时仅考虑概率最高的90% token)。
  • 支持的功能 (roles):
    • chat: 对话交互。
    • autocomplete: 代码自动补全。
    • edit: 代码编辑。
    • apply: 可能指应用代码更改。
  1. 上下文集成
yaml 复制代码
context:
  - provider: code
  - provider: docs
  - provider: diff
  - provider: terminal
  - provider: problems
  - provider: folder
  - provider: codebase

配置工具可访问的上下文来源(增强模型对当前任务的理解):

  • code: 当前编辑的代码文件。
  • docs: 项目文档或注释。
  • diff: 代码变更差异(如Git diff)。
  • terminal: 终端输出或命令历史。
  • problems: 错误或警告(如IDE提示)。
  • folder: 当前目录文件结构。
  • codebase: 整个代码库的元信息(如符号定义)。

总得来说,此配置文件定义了一个本地代码助手,通过HTTP API连接到一个 Qwen2.5-Coder 模型,支持代码补全、编辑、聊天等功能,并集成了开发环境的多维度上下文(代码、终端、文档等)。

3. 验证效果

最后,我们来验证下模型的效果。

首先 **@** 一个代码文件,下面的示例中是我的一个工程中的代码:

接下来,我们让AI帮我们生成CreateTask这个函数的代码:

然后,点击生成的代码右上角的 【Apply】按钮,就能将生成的代码填充到文件中。

点击右上角绿色的勾,就能将代码写入文件,如果代码有错误,可以继续通过prompt交互来修改代码,

或者直接修改代码文件也行。

4. 总结

十分钟内,你就能在 VS Code 里用上「完全属于自己」的 AI 编程助手,既省钱又安心。Happy coding!

相关推荐
秦禹辰10 分钟前
开源多场景问答社区论坛Apache Answer本地部署并发布至公网使用
开发语言·后端·golang
追逐时光者19 分钟前
一款开源免费、组件丰富的 WPF UI 控件库,提供了 100 多款常用控件!
后端·.net
小旺不正经20 分钟前
数据库表实现账号池管理
数据库·后端·算法
Penge66621 分钟前
结构体内存计算:从字段到中文字符深挖
后端
流星稍逝22 分钟前
后端实现增删改查功能
后端
s91236010122 分钟前
[rust] temporary value dropped while borrowed
开发语言·后端·rust
流星稍逝24 分钟前
前端&后端解决跨域的方法
前端·后端
滴水寸金26 分钟前
优雅地构建动态、复杂且安全的 SQL 查询
后端
滴水寸金29 分钟前
讯飞语音转文本:定位阅读进度与高亮文本的技术实现
后端
karry_k33 分钟前
Java的类加载器
后端