Vscode Continue插件 集成 本地llama.cpp大模型实现代码补全

Vscode Continue插件 集成 本地llama.cpp大模型实现代码补全

Vscode Continue扩展

config.yaml文件内容

yaml 复制代码
name: Local Config
version: 1.0.0
schema: v1
models:
  - name: Qwen3.5-4B-Q4_0
    provider: llama.cpp
    model: Qwen3.5-4B-Q4_0
    apiBase: http://127.0.0.1:11444
    roles:
      - chat
      - edit
      - apply
      - autocomplete
      - embed

附加llama.cpp启动命令

6G显存可以强制把模型都加到显存里。

bash 复制代码
llama-server --models-dir D:\llama.cpp\models -b 512 --mlock -ngl 99 --port 11444 --models-max 1 -c 65535
相关推荐
张紫娃5 小时前
idea 如何看一个类的 .class 文件
java·ide·intellij-idea
NoteDeep 深度笔记10 小时前
DOM 被改乱了怎么办?Notedeep 编辑器的 normalize 设计
前端·javascript·编辑器
顧棟14 小时前
组件生命周期设计:从硬编码初始化到状态机
java·ide
jianqiang.xue1 天前
Espressif-IDE进入维护模式:乐鑫把ESP32开发的宝押给VS Code
前端·css·ide
Solange__3 天前
Blender 3D模型优化:普通复制、共享网格、实例、合并怎么选?
人工智能·3d·ai·自然语言处理·编辑器·blender·材质
2601_967980114 天前
世界上最好的Python编辑器是什么?我投PyCharm一票
ide·python·pycharm·数据科学·jupyter notebook
FungLeo4 天前
成为全栈·Vue 管理后台篇·编辑器图片上传:从文件选择到文章附件关联
前端·vue.js·编辑器·markdown·文件上传·formdata·附件管理
拼图2096 天前
VSCode 正则表达式使用指南
ide·vscode·正则表达式