非常棒的向量数据库chroma的前端管理工具及向量模型配置

非常棒的向量数据库chroma的前端管理工具及向量模型配置

简介

Chroma-Walnut-UI是一款优秀的Chroma向量数据库前端管理工具。安装步骤包括:克隆仓库、安装Python依赖(推荐使用uv或pip)、安装前端npm依赖。运行命令为uv run python main.py,Windows用户需先通过PowerShell安装uv。项目地址:https://github.com/a605204746/Chroma-Walnut-UI。该工具简化了Chroma数据库的管理操作。

安装步骤

项目下载地址:https://github.com/a605204746/Chroma-Walnut-UI

预编译版本下载:https://github.com/a605204746/Chroma-Walnut-UI/releases/

安装教程

  1. Clone the repository
bash 复制代码
git clone https://github.com/a605204746/Chroma-Walnut-UI.git
cd Chroma-Walnut-UI
  1. Install Python dependencies
bash 复制代码
# Using uv (recommended)
uv sync

# Or using pip
pip install pywebview chromadb
  1. Install frontend dependencies
bash 复制代码
cd frontend
npm install 
cd ..
  1. Run
bash 复制代码
uv run python main.py
  1. windows Install uv
bash 复制代码
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"

6.build

bash 复制代码
# Release build (no console window)
uv run python build.py

Output per platform

Platform Output Archive

平台 目录 文件
Windows dist/ChromaWalnutUI/ dist/ChromaWalnutUI-Windows.zip
macOS dist/ChromaWalnutUI.app dist/ChromaWalnutUI-macOS.dmg
Linux dist/ChromaWalnutUI/ dist/ChromaWalnutUI-Linux.tar.gz

用llama.cpp配置向量模型并接入

1.启动向量模型(nomic-embed-text-v1.5.Q4_K_M.gguf)

bash 复制代码
llama-server --embedding -m D:\llama.cpp\models\nomic-embed-text-v1.5.Q4_K_M.gguf -b 8192 -ub 512 --mlock --no-mmap -ngl 99 --port 11446 --models-max 1 -ctk q4_0 -ctv q4_0 -ctkd q4_0 -ctvd q4_0 -c 65535

关键选项:

bash 复制代码
--embedding

2.配置Chroma-Walnut-UI向量模型

API地址

bash 复制代码
http://localhost:11446/v1/embeddings

模型名称

bash 复制代码
nomic-embed-text-v1.5.Q4_K_M

测试正常连通后保存即可

推荐的向量模型

bge-m3-GGUF

下载地址:https://modelscope.cn/models/gpustack/bge-m3-GGUF

相关推荐
芭拉拉小魔仙2 小时前
前端文件下载与错误处理实战指南
前端
Yao8062 小时前
MinIO自建对象存储,省OSS费用的完整方案
前端·后端
2501_933923252 小时前
设计网页的时候加载不出来怎么办?认识常见的状态码
前端·spring
only-lucky2 小时前
QML深入学习五(Controls模块)
前端·javascript·学习
程序员黑豆3 小时前
鸿蒙应用开发之路由:Router 页面路由使用教程
前端·harmonyos
gyx_这个杀手不太冷静3 小时前
Agent开发进阶指南(第 2 章):Agent 运行全流程拆解、上下文窗口、流式输出、记忆系统与 Function Call 实战
前端·架构·agent
anyup3 小时前
像这种问题千万别自己动手,否则你可太看不起 AI 了
前端·架构·trae
hunterandroid4 小时前
[鸿蒙从零到一] HarmonyOS Web 组件与 JSBridge 通信实战:从页面加载到安全协议
前端
xingren4 小时前
「拍摄器」UI 特效 - 在 Winform/WPF/WinUI3/Avalonia/Web 的实现
前端