windows10+RAGFlow(docker)+Ollama(qwen3:8b, bge-m3)

1、安装NVIDIA驱动和CUDA;

2、下载并安装Ollama,使用命令行安装指定安装路径和模型路径:OllamaSetup.exe /DIR="D:\Ollama",安装完成后在ollama设置中修改model路径;

3、Ollama配置国内镜像,在C:à用户--->账户名--->.ollama 路径下新建config.json文件并将下面内容复制保存;

{

"registry": {

"mirrors": {

"registry.ollama.ai": "https://ollama.modelscope.cn"

}

}

}

3、下载LLM qwen3:8b和Embeding Model bge-m3:

ollama pull qwen3:8b

ollama pull bge-m3

4、下载并安装Docker desktop,可使用迅雷从中科大镜像下载,安装时指定安装目录和镜像目录:

".\Docker Desktop Installer.exe" install `

--accept-license `

--installation-dir="D:\Docker " `

--wsl-default-data-root="D:\Docker\WSL"

5、在DockeràsettingàDocker Engine设置国内镜像源,保存并重启Docker:

{

"builder": {

"gc": {

"defaultKeepStorage": "20GB",

"enabled": true

}

},

"experimental": false,

"registry-mirrors": [

"https://docker.1ms.run",

"https://docker.xuanyuan.me",

"https://docker.m.daocloud.io"

]

}

6、安装git,并clone ragflow:git clone GitHub - infiniflow/ragflow: RAGFlow is a leading open-source Retrieval-Augmented Generation (RAG) engine that fuses cutting-edge RAG with Agent capabilities to create a superior context layer for LLMs · GitHub

7、在ragflow/docker路径打开cmd:docker compose -f docker-compose.yml up -d

8、启动后检查:docker compose ps

docker logs -f ragflow-server

9、浏览器访问:http://localhost:80

相关推荐
hey you~1 天前
2026年大模型语音机器人知识库导入与调优全指南:从切分到重排序的7个关键步骤
人工智能·机器人·语音识别·向量检索·rag·知识库导入·知识库调优
东莞市云毅网络有限公司1 天前
监测问句清单去重:停用词表、数字归一与贪心聚类的参数取法
python·数据清洗·rag·企业知识库·文档解析
for_ever_love__1 天前
忠实度(Faithfulness):怎么判断 RAG 的答案有没有瞎编
linux·rag·评估·答案·faithfulness·原文·忠实度
救救孩子把1 天前
AI面试八股文-03_3-RAG 系统面试题
人工智能·redis·面试·agent·rag
for_ever_love__1 天前
RAGAS 实战:一套能跑起来的 RAG 自动评测框架
人工智能·框架·工具·自动·rag·评估·评测
for_ever_love__1 天前
上下文精确率与召回率:别只盯着答案,先看看检索喂了什么
rag·检索·评估·指标·上下文·召回率·精确率
for_ever_love__1 天前
RAG 里的拒答:什么时候应该说‘我不知道
人工智能·rag·处理·拒答·不知道·怎么回答·检索不到
RuoyiOffice1 天前
Spring AI+Vue3 企业知识库设计:让每个答案有依据,让每份资料守住权限
java·spring boot·vue3·rag·企业知识库·spring ai·ruoyi office
余槐i2 天前
Ollama 长文档问答后半段全空:context 默认值与静默截断的代价
性能优化·大模型·api·rag·ollama