非常棒的向量数据库chroma的前端管理工具及向量模型配置

非常棒的向量数据库chroma的前端管理工具及向量模型配置

简介

Chroma-Walnut-UI是一款优秀的Chroma向量数据库前端管理工具。安装步骤包括:克隆仓库、安装Python依赖(推荐使用uv或pip)、安装前端npm依赖。运行命令为uv run python main.py,Windows用户需先通过PowerShell安装uv。项目地址:https://github.com/a605204746/Chroma-Walnut-UI。该工具简化了Chroma数据库的管理操作。

安装步骤

项目下载地址:https://github.com/a605204746/Chroma-Walnut-UI

预编译版本下载:https://github.com/a605204746/Chroma-Walnut-UI/releases/

安装教程

  1. Clone the repository
bash 复制代码
git clone https://github.com/a605204746/Chroma-Walnut-UI.git
cd Chroma-Walnut-UI
  1. Install Python dependencies
bash 复制代码
# Using uv (recommended)
uv sync

# Or using pip
pip install pywebview chromadb
  1. Install frontend dependencies
bash 复制代码
cd frontend
npm install 
cd ..
  1. Run
bash 复制代码
uv run python main.py
  1. windows Install uv
bash 复制代码
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"

6.build

bash 复制代码
# Release build (no console window)
uv run python build.py

Output per platform

Platform Output Archive

平台 目录 文件
Windows dist/ChromaWalnutUI/ dist/ChromaWalnutUI-Windows.zip
macOS dist/ChromaWalnutUI.app dist/ChromaWalnutUI-macOS.dmg
Linux dist/ChromaWalnutUI/ dist/ChromaWalnutUI-Linux.tar.gz

用llama.cpp配置向量模型并接入

1.启动向量模型(nomic-embed-text-v1.5.Q4_K_M.gguf)

bash 复制代码
llama-server --embedding -m D:\llama.cpp\models\nomic-embed-text-v1.5.Q4_K_M.gguf -b 8192 -ub 512 --mlock --no-mmap -ngl 99 --port 11446 --models-max 1 -ctk q4_0 -ctv q4_0 -ctkd q4_0 -ctvd q4_0 -c 65535

关键选项:

bash 复制代码
--embedding

2.配置Chroma-Walnut-UI向量模型

API地址

bash 复制代码
http://localhost:11446/v1/embeddings

模型名称

bash 复制代码
nomic-embed-text-v1.5.Q4_K_M

测试正常连通后保存即可

推荐的向量模型

bge-m3-GGUF

下载地址:https://modelscope.cn/models/gpustack/bge-m3-GGUF

相关推荐
沙蒿同学12 小时前
不引 Ghostscript:我用纯 Go 给 PDF 做了一场「压缩手术」
前端·后端·github
变与不变80612 小时前
jQuery细节以及使用应用场景
前端·javascript·jquery
SailingCoder14 小时前
【封闭结束1】端到端交付:Agent 一次请求如何走完全链路
前端·安全·ai·面试·agent·harness
风骏时光牛马16 小时前
AI多模块协同自动化工作流
前端
zhangminghuan16 小时前
前端面试应对技巧
前端·面试·职场和发展
计算机魔术师16 小时前
潜伏14年的PHP致命洞,AI跑两天就交卷了
前端
IT_陈寒16 小时前
Vue的这个响应式陷阱我居然现在才发现
前端·人工智能·后端
Python自动化直播18 小时前
智能脚本批量管理拆开看:导入、导出、重写、试听
前端·python·ai·秒播
开开心心就好18 小时前
发票信息录入太麻烦?离线工具一键转表格
运维·服务器·前端·pdf·ocr·maven·intellij-idea