win10系统部署RAGFLOW+Ollama教程

本篇主要基于linux服务器部署ragflow+ollama,其他操作系统稍有差异但是大体一样。

一、先决条件

CPU ≥ 4核;

RAM ≥ 16 GB;

磁盘 ≥ 50 GB;

Docker ≥ 24.0.0 & Docker Compose ≥ v2.26.1。

如果尚未在本地计算机(Windows、Mac或Linux)上安装Docker,请参阅安装Docker引擎。


我的系统配置


二、启动RAGFLOW服务器

1、确保 vm.max_map_count ≥ 262144

在 Windows 10 系统上,WSL 2 是运行在虚拟机环境下的,因此直接通过 WSL 2 来检查 vm.max_map_count 的值并不适用。vm.max_map_count 是 Linux 内核的一个参数,而 WSL 2 的内核是托管在 Windows 上的,不能像RAGFLOW手册中那样的方式修改 vm.max_map_count值。

解决办法:

1、cmd命令行中输入下面命令进入WSL2的Linux终端

bash 复制代码
wsl

2、登录到您的 Linux 发行版

bash 复制代码
sudo su

3、临时修改 vm.max_map_count 参数(仅对当前对话有效)

bash 复制代码
echo 262144 > /proc/sys/vm/max_map_count

4、永久修改,编辑 /etc/sysctl.conf 文件(我们选择这种修改方式!)

bash 复制代码
echo "vm.max_map_count=262144" >> /etc/sysctl.conf

5、重新加载 sysctl 配置

bash 复制代码
sysctl -p

6、检查 vm.max_map_count 参数

bash 复制代码
cat /proc/sys/vm/max_map_count

成功截图如下

2、RAGFlow的拉取运行

bash 复制代码
git clone https://github.com/infiniflow/ragflow.git

遇到问题:

(1)访问不了github.com

解决办法:

见另外一篇博文win10系统访问不了github,com解决办法(亲测有效)

(2)git命令未安装

报错提示:

C:\Users\Administrator>git clone https://github.com/infiniflow/ragflow.git

'git' 不是内部或外部命令,也不是可运行的程序

或批处理文件。

C:\Users\Administrator>

解决办法:

访问Git官网下载最新版本的 Git 安装程序。

https://git-scm.com/downloads/win

运行安装程序

双击下载的安装程序,按照提示进行安装(可自定义安装位置)
一路默认即可。

添加到环境变量

添加 Git 的安装路径

我的路径:

E:\Program Files\Git\bin

注意:根据自己的git安装位置粘贴路径,环境变量粘贴到bin目录下

验证安装

注意:重新打开一个cmd窗口

bash 复制代码
git --version

下图为安装成功界面(版本信息)


再次运行git克隆仓库命令

bash 复制代码
git clone https://github.com/infiniflow/ragflow.git

如下拉取成功截图

运行

bash 复制代码
cd ragflow/docker
docker compose -f docker-compose.yml up -d

注意:镜像文件大约9GB,下载过程可能需要一些时间,请耐心等待。

3、确认服务器状态

bash 复制代码
docker logs -f ragflow-server

三、RAGFLOW配置 Ollama 连接大模型

1.打开浏览器输入

http://localhost:80

界面如下图所示

注册登录账号

登录后界面,选择配置模型

添加模型

我的基础URL

bash 复制代码
http://host.docker.internal:11434

注意:模型名称对应填好,不知道的使用命令查看一下复制过来

bash 复制代码
ollama list

关于基础URL的几点说明:

(1)Ollama和RAGFlow在同一台机器上运行,基本URL:

http://host.docker.internal:11434

(2)Ollama和RAGFlow在同一台机器上运行,并且Ollama或者RAGFLOW在Docker中,基本URL:

http://host.docker.internal:11434

(3)Ollama在与RAGFlow不同的机器上运行,基本URL:

http://<IP_OF_OLLAMA_MACHINE>:11434

注意:大家根据自己的实际情况填写基础URL


成功连接截图

四、创建知识库(可更新)

相关推荐
承渊政道9 小时前
magic-resume简历工具教程:Windows部署、在线编辑与远程访问
windows·远程访问·在线编辑·简历制作·工具教程·magic-resume
澹锦汐12 小时前
纯前端秋日银杏与枫叶落叶色板智能聚类器:基于 K-Means 色彩量化与直方图自动配方提取
前端·人工智能·ai·语言模型·vue·react·k-means
观察员1 天前
告别频繁锁屏:5行 PowerShell 脚本实现 Windows 自动防休眠
windows·命令行
Funlang1 天前
在 Windows 95 上写前端
前端·javascript·windows
一切皆有可能!!1 天前
【SoduWork测评】本机跑源码,找到并修了7个Bug
windows·开源·bug·ai编程·soduwork
xx z1 天前
打开游戏提示 d3dx9_43.dll 缺失怎么办(DirectX 修复步骤)
windows·游戏·工具·软件
如夏倾城1 天前
五大远程桌面协议:RDP、SSH、VNC/RFB、Citrix ICA/HDX 与 VMware Blast Extreme
运维·windows·网络协议·安全·自动化·ssh·远程工作
Vex2une2 天前
JDK 8 下载安装与环境变量配置完整指南(Windows新手图文教程)
java·windows·环境配置·环境变量·jdk8·jdk下载安装·java入门教程
星空孤辰2 天前
【camera 008】android camera id 注册、状态监控等状态变化 全流程梳理
android·windows
全方位办公软件2 天前
Windows音频服务架构解析:AudioSrv与AudioEndpointBuilder排障
windows·命令行·powershell·音频服务·驱动修复·mmdevices·audiosrv