非常棒的向量数据库chroma的前端管理工具及向量模型配置

非常棒的向量数据库chroma的前端管理工具及向量模型配置

简介

Chroma-Walnut-UI是一款优秀的Chroma向量数据库前端管理工具。安装步骤包括:克隆仓库、安装Python依赖(推荐使用uv或pip)、安装前端npm依赖。运行命令为uv run python main.py,Windows用户需先通过PowerShell安装uv。项目地址:https://github.com/a605204746/Chroma-Walnut-UI。该工具简化了Chroma数据库的管理操作。

安装步骤

项目下载地址:https://github.com/a605204746/Chroma-Walnut-UI

预编译版本下载:https://github.com/a605204746/Chroma-Walnut-UI/releases/

安装教程

  1. Clone the repository
bash 复制代码
git clone https://github.com/a605204746/Chroma-Walnut-UI.git
cd Chroma-Walnut-UI
  1. Install Python dependencies
bash 复制代码
# Using uv (recommended)
uv sync

# Or using pip
pip install pywebview chromadb
  1. Install frontend dependencies
bash 复制代码
cd frontend
npm install 
cd ..
  1. Run
bash 复制代码
uv run python main.py
  1. windows Install uv
bash 复制代码
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"

6.build

bash 复制代码
# Release build (no console window)
uv run python build.py

Output per platform

Platform Output Archive

平台 目录 文件
Windows dist/ChromaWalnutUI/ dist/ChromaWalnutUI-Windows.zip
macOS dist/ChromaWalnutUI.app dist/ChromaWalnutUI-macOS.dmg
Linux dist/ChromaWalnutUI/ dist/ChromaWalnutUI-Linux.tar.gz

用llama.cpp配置向量模型并接入

1.启动向量模型(nomic-embed-text-v1.5.Q4_K_M.gguf)

bash 复制代码
llama-server --embedding -m D:\llama.cpp\models\nomic-embed-text-v1.5.Q4_K_M.gguf -b 8192 -ub 512 --mlock --no-mmap -ngl 99 --port 11446 --models-max 1 -ctk q4_0 -ctv q4_0 -ctkd q4_0 -ctvd q4_0 -c 65535

关键选项:

bash 复制代码
--embedding

2.配置Chroma-Walnut-UI向量模型

API地址

bash 复制代码
http://localhost:11446/v1/embeddings

模型名称

bash 复制代码
nomic-embed-text-v1.5.Q4_K_M

测试正常连通后保存即可

推荐的向量模型

bge-m3-GGUF

下载地址:https://modelscope.cn/models/gpustack/bge-m3-GGUF

相关推荐
benbenAItalk2 小时前
数字人口播视频的批量生产实践:素材规范、任务编排与质量验收
java·前端·音视频
2601_962885723 小时前
如何用 Python 扫描 A 股跳空缺口并统计缺口回补概率?
java·前端·python
西瓜太郎12343 小时前
Claude Code、Codex CLI、Gemini CLI 能否共用一枚 Key?先看协议选择矩阵
前端·api 网关·claude code·gemini cli·codex cli
陈随易5 小时前
在Finch用了62亿词元,我认为这是新一代Agent工具之神
前端·人工智能·后端
水域安全老周5 小时前
水趣钓鱼救生衣专利拆解:两级锁紧如何解决落水人衣分离
java·前端·网络
计算机魔术师6 小时前
Anthropic CEO突然喊踩刹车,OpenAI罕见力挺:AI这辆车不能只踩油门了
前端
wing986 小时前
从codex转战workbuddy使用一周的感受
前端·人工智能·后端
EatFan6 小时前
Java接入支付宝 JSAPI 支付保姆教程(二):流程讲解与前后端代码讲解
前端·spring boot·后端·微信小程序·小程序·uni-app
梦想平凡7 小时前
百游棋牌源代码开发搭建教程(五):房间创建、座位分配与请求幂等实现
前端·javascript·数据库·源代码管理
IT_陈寒7 小时前
Redis的Set操作居然能把我的服务整挂了?
前端·人工智能·后端