非常棒的向量数据库chroma的前端管理工具及向量模型配置

非常棒的向量数据库chroma的前端管理工具及向量模型配置

简介

Chroma-Walnut-UI是一款优秀的Chroma向量数据库前端管理工具。安装步骤包括:克隆仓库、安装Python依赖(推荐使用uv或pip)、安装前端npm依赖。运行命令为uv run python main.py,Windows用户需先通过PowerShell安装uv。项目地址:https://github.com/a605204746/Chroma-Walnut-UI。该工具简化了Chroma数据库的管理操作。

安装步骤

项目下载地址:https://github.com/a605204746/Chroma-Walnut-UI

预编译版本下载:https://github.com/a605204746/Chroma-Walnut-UI/releases/

安装教程

  1. Clone the repository
bash 复制代码
git clone https://github.com/a605204746/Chroma-Walnut-UI.git
cd Chroma-Walnut-UI
  1. Install Python dependencies
bash 复制代码
# Using uv (recommended)
uv sync

# Or using pip
pip install pywebview chromadb
  1. Install frontend dependencies
bash 复制代码
cd frontend
npm install 
cd ..
  1. Run
bash 复制代码
uv run python main.py
  1. windows Install uv
bash 复制代码
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"

6.build

bash 复制代码
# Release build (no console window)
uv run python build.py

Output per platform

Platform Output Archive

平台 目录 文件
Windows dist/ChromaWalnutUI/ dist/ChromaWalnutUI-Windows.zip
macOS dist/ChromaWalnutUI.app dist/ChromaWalnutUI-macOS.dmg
Linux dist/ChromaWalnutUI/ dist/ChromaWalnutUI-Linux.tar.gz

用llama.cpp配置向量模型并接入

1.启动向量模型(nomic-embed-text-v1.5.Q4_K_M.gguf)

bash 复制代码
llama-server --embedding -m D:\llama.cpp\models\nomic-embed-text-v1.5.Q4_K_M.gguf -b 8192 -ub 512 --mlock --no-mmap -ngl 99 --port 11446 --models-max 1 -ctk q4_0 -ctv q4_0 -ctkd q4_0 -ctvd q4_0 -c 65535

关键选项:

bash 复制代码
--embedding

2.配置Chroma-Walnut-UI向量模型

API地址

bash 复制代码
http://localhost:11446/v1/embeddings

模型名称

bash 复制代码
nomic-embed-text-v1.5.Q4_K_M

测试正常连通后保存即可

推荐的向量模型

bge-m3-GGUF

下载地址:https://modelscope.cn/models/gpustack/bge-m3-GGUF

相关推荐
李姆斯5 小时前
为啥Agent在coding表现这么好,但是在别的领域就是差的不少?
前端·agent·ai编程
鱼与宇8 小时前
前端Web(html+css+js+vue3)
前端
雪芽蓝域zzs9 小时前
(六)打包优化 + Nginx 部署完整配置 + 项目收尾
前端·vue.js
研☆香10 小时前
聊一聊前端的常见字 关键字
开发语言·前端·javascript
东风破_10 小时前
JWT 1:从一个登录请求开始,理解 React 项目里的 API 层与 Mock
前端·后端
东风破_10 小时前
JWT 3:为什么 Token 要放进 Authorization?Axios 拦截器到底解决了什么?
前端·后端
东风破_10 小时前
JWT 5:路由守卫是什么?把整个 JWT 登录鉴权流程串起来
前端·后端
东风破_10 小时前
JWT 2:HTTP 是无状态的,为什么登录成功后还要给 Token?
前端·后端
东风破_10 小时前
JWT 4:Zustand 到底解决了什么?为什么登录状态要放进 Store?
前端·后端
IT_陈寒10 小时前
Vite动态导入差点让我秃头,原来问题出在这
前端·人工智能·后端