SparkX结合Ollama搭建本地知识库

Ollama是一个开源的本地大语言模型(LLM)运行框架,专注于简化和优化大型语言模型在个人设备上的部署与管理,支持主流模型的快速运行与集成。借助Ollama 强大的功能我们无需关注本地模型部署的各种复杂的依赖。如何在SparkX中使用Ollama呢?

开源地址:
github.com/nick-bai/Sp...
gitee.com/shop-sparke...

本文以macos 环境为例,其他环境除了装Ollama略有不同,其余的均一致

安装 ollama

1、下载Ollama

打开 ollama的官网 ollama.com/

点击下载,根据自己系统选择对应的版本。

正常情况下,系统会自动检测当前的操作系统,默认选择对应的版本。点击下载即可。

2、安装ollama

没有啥特殊的配置的话,一路下一步。

3、验证是否安装完毕

打开命令行输入

复制代码
ollama -v

出现如下的画面,表示安装完成。

在SparkX中使用Ollama

1、语言模型

我们选择一个自己系统可以部署的模型,打开 Ollama官网,点击Models
ollama.com/search

我们选择一个 qwen3 模型

点击进去,这里我 选择 1.7b 模型,复制拉取命令

arduino 复制代码
ollama run qwen3:1.7b

打开命令行执行,等待模型拉去完成。

拉去完毕之后,模型会自动启动。我们输入 你好,能看到模型正常的回复了。

接下来我们打开 SparkX的模型管理,填写 Ollama 的可用模型 qwen3:1.7b

保存提交。然后在应用中选择我们设置的 模型

此时,就可以在应用中使用 Ollama 中的 qwen3 模型了

2、向量模型

打开 Ollama 官网,选择 embedding 模型

这里我们选择 一个,以 bg3-m3 为例子,复制拉去命令

复制代码
ollama pull bge-m3

拉去完毕之后,我们打开 SparkX 的向量模型配置,输入可用模型为 bge-m3

知识库就可以配置 bge-m3 模型了

传入文本,选择向量化

等待完成向量化

3、重排模型

打开 Ollama 官网,选择 搜索 rerank 模型

我们选择拉去 bge-reranker-v2-m3,复制 拉去命令

bash 复制代码
ollama pull linux6200/bge-reranker-v2-m3

打开 SparkX 的重排模型,输入重排名称

在应用中就可以选择这个重排模型了

相关推荐
31535669135 分钟前
DeepSeek Harness 发布后,我没急着跑 Demo,先把 `.agents/` 翻了一遍
前端·后端·github
Nturmoils18 分钟前
不在公司,也能连回办公电脑:用 Natapp 打通 Windows 远程桌面
后端
LEE19 分钟前
AI Agent 都在疯狂加功能,它说:我全砍了
前端·后端
桦说编程33 分钟前
记一次 Coding Agent 改动带来的bug与启示
后端·agent·vibecoding
302wanger35 分钟前
Mole-在终端里给Mac做减法
后端
一心只读圣贤书1 小时前
本地后端环境与前端联调总结(前端小白视角)
后端
杨利杰YJlio2 小时前
KB5121003更新详解:安全启动证书、AI组件、资源管理器与安装验证
前端·javascript·后端
忙碌碌粒粒橙2 小时前
《用户付一次钱,你的系统为什么处理了两遍:Webhook 重复投递避坑指南》
后端
数字化探索者笔记2 小时前
从零搭建:VMware 银河麒麟V10部署 OceanBase 4.2.5 企业版集中式数据库
后端
西门老铁2 小时前
JWT 是什么?三段式结构、签名原理与 6 个安全坑一次讲透
后端·面试