非常棒的向量数据库chroma的前端管理工具及向量模型配置

非常棒的向量数据库chroma的前端管理工具及向量模型配置

简介

Chroma-Walnut-UI是一款优秀的Chroma向量数据库前端管理工具。安装步骤包括:克隆仓库、安装Python依赖(推荐使用uv或pip)、安装前端npm依赖。运行命令为uv run python main.py,Windows用户需先通过PowerShell安装uv。项目地址:https://github.com/a605204746/Chroma-Walnut-UI。该工具简化了Chroma数据库的管理操作。

安装步骤

项目下载地址:https://github.com/a605204746/Chroma-Walnut-UI

预编译版本下载:https://github.com/a605204746/Chroma-Walnut-UI/releases/

安装教程

  1. Clone the repository
bash 复制代码
git clone https://github.com/a605204746/Chroma-Walnut-UI.git
cd Chroma-Walnut-UI
  1. Install Python dependencies
bash 复制代码
# Using uv (recommended)
uv sync

# Or using pip
pip install pywebview chromadb
  1. Install frontend dependencies
bash 复制代码
cd frontend
npm install 
cd ..
  1. Run
bash 复制代码
uv run python main.py
  1. windows Install uv
bash 复制代码
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"

6.build

bash 复制代码
# Release build (no console window)
uv run python build.py

Output per platform

Platform Output Archive

平台 目录 文件
Windows dist/ChromaWalnutUI/ dist/ChromaWalnutUI-Windows.zip
macOS dist/ChromaWalnutUI.app dist/ChromaWalnutUI-macOS.dmg
Linux dist/ChromaWalnutUI/ dist/ChromaWalnutUI-Linux.tar.gz

用llama.cpp配置向量模型并接入

1.启动向量模型(nomic-embed-text-v1.5.Q4_K_M.gguf)

bash 复制代码
llama-server --embedding -m D:\llama.cpp\models\nomic-embed-text-v1.5.Q4_K_M.gguf -b 8192 -ub 512 --mlock --no-mmap -ngl 99 --port 11446 --models-max 1 -ctk q4_0 -ctv q4_0 -ctkd q4_0 -ctvd q4_0 -c 65535

关键选项:

bash 复制代码
--embedding

2.配置Chroma-Walnut-UI向量模型

API地址

bash 复制代码
http://localhost:11446/v1/embeddings

模型名称

bash 复制代码
nomic-embed-text-v1.5.Q4_K_M

测试正常连通后保存即可

推荐的向量模型

bge-m3-GGUF

下载地址:https://modelscope.cn/models/gpustack/bge-m3-GGUF

相关推荐
迅猛龙办公室5 小时前
Python输出当前计算机的系统日期和时间
开发语言·前端·python
小狼154545 小时前
浏览器扩展脚本为什么有时候不生效:注入时机、iframe 和单页路由,多多开票助手
前端·chrome
じòぴé南冸じょうげん5 小时前
油猴脚本突然发现变成灰色了,无法使用?页面不生效?刷新页面没反应?
前端
Csvn7 小时前
组合式 API(Composition API)
前端
火柴就是我8 小时前
Android 打包报错 25.0.3
android·前端
BD_Marathon8 小时前
消息对象中字段的说明
java·前端·python
八荒启·交互动画8 小时前
Web特效025—用 Canvas 2D 做Web特效的定义与边界:这支画笔能做到哪一步
前端·webgl·网页特效·八荒启-交互动画·八荒启
Ai-_Man8 小时前
您您这可以把Dola的多个会话比如说。左侧的多个会话一次性导出吗?不是单条会话里面的多次会对话。用AI导出鸭,答案是可以的
开发语言·前端·人工智能·小程序
excel8 小时前
Nuxt 中使用 useHead 优化 SEO 与 GEO
前端
IT_陈寒10 小时前
SpringBoot启动慢得像蜗牛?原来是这个配置在捣鬼
前端·人工智能·后端