技术栈

ollama部署

minhuan
22 天前
向量数据库·大模型应用·ollama部署·rag应用
大模型应用:RAG与向量数据库结合Ollama调用模型深度融合全解析.27通过多篇博文我们也反复介绍说明了大模型知识滞后、生成幻觉成为制约智能问答、企业知识库等场景落地的核心痛点,检索增强生成(RAG)技术通过“外部知识检索 + LLM 生成” 的模式,为解决这些问题提供了关键思路,而向量数据库则是 RAG 发挥价值的核心底座。今天我们从一个新的视角,以本地员工手册智能问答系统为内容载体,从基础概念到实践,系统拆解 RAG 与向量数据库的深度融合逻辑,同时引入 Ollama 这一轻量级本地大模型运行工具,增加实用性和便捷性。
Nicolas893
5 个月前
gpt·ollama部署·flashattention·部署问题·vllm部署·gpt-oss·gpt-oss-120b
【大模型实战篇】部署GPT-OSS-120B踩得坑(vllm / ollama等推理框架)之前在《gpt-oss系列模型初探》介绍了GPT-OSS的相关内容,接下来个人尝试做了部署和测试,也遇到一些坑。
逆风飞翔的小叔
2 年前
ollama搭建·ollama部署·ollama部署大模型·java整合ollama·java对接ollama
大模型管理工具Ollama搭建及整合springboot目录一、Ollama介绍1.1 什么是Ollama1.2 Ollama特点与优势二、Ollama本地部署
我是有底线的