GraphRAG本地部署 v2.7.0

1.本地部署

1.1 基于源码的开发

1.1.1 准备运行环境

(1)创建虚拟环境(miniconda等)。

复制代码
conda create -n GraphRAG python=3.11
conda activate GraphRAG

(2)下载源码并进入目录

复制代码
git clone https://github.com/microsoft/graphrag.git   
cd graphrag

1.1.2 下载依赖并初始化项目

(1) 安装 poetry 资源包管理工具及相关依赖
复制代码
pip install poetry 
poetry install
(2) 初始化
  1. 在 graphrag 文件夹下面创建一个./ragtest/output

  2. 命令行运行 graphrag init --root ./ragtest

这将在 ./ragtest 目录下创建两个文件:.env 和 settings.yaml。

.env 文件包含运行 GraphRAG 流程所需的环境变量。查看该文件时,你会看到其中定义了一个环境变量:GRAPHRAG_API_KEY=<API_KEY>。请将 <API_KEY> 替换为你自己的 OpenAI 或 Azure API 密钥。

settings.yaml 文件包含该流程的配置信息。你可以修改此文件来更改流程的相关配置。

(3) 使用大模型 API

若在 OpenAI 模式下运行,只需在 .env 文件中,将 GRAPHRAG_API_KEY 的值更新为你的 OpenAI API 密钥即可。

使用 Azure OpenAI

除设置 API 密钥外,Azure OpenAI 用户还需在 settings.yaml 文件中设置以下变量。如需找到对应的配置部分,只需搜索 models: 根配置;你会看到两个部分,一个用于默认聊天端点,另一个用于默认嵌入端点。以下是需添加到聊天模型配置中的示例:

复制代码
type: azure_openai_chat # Or azure_openai_embedding for embeddings
api_base: https://<instance>.openai.azure.com
api_version: 2024-02-15-preview # You can customize this for other versions
deployment_name: <azure_model_deployment_name>

在 Azure 上使用托管身份验证(Managed Auth)

若要使用托管身份验证,需在模型配置中编辑 auth_type 字段,并删除 api_key 相关行:

复制代码
auth_type: azure_managed_identity # Default auth_type is is api_key

1.1.3 运行索引流程

复制代码
poetry run poe index <...args>

在当前项目的 Poetry 虚拟环境中,执行通过 poe 定义的 "index" 命令(启动索引流程),并以当前目录作为根目录。

1.1.4 进行查询

GraphRAG 提供了两种查询方式

1)全局查询:更侧重全文理解
复制代码
poetry run poe query --root . --method global "本文主要讲了什么?"

运行成功后可以看到输出成果

2)局部查询:更侧重细节
复制代码
poetry run poe query --root . --method local "本文主要讲了什么"

1.2 在 python 包的基础上进行(快速尝试)

虚拟环境要求 python=3.11 。

1.2.1 环境安装

复制代码
pip install graphrag

1.2.2 初始化项目

创建一个临时的文件夹 graphrag ,用于存在运行时数据

复制代码
mkdir -p ./christmas/input

从可靠渠道获取查尔斯・狄更斯(Charles Dickens)所著《圣诞颂歌》(A Christmas Carol)的副本:

复制代码
curl https://www.gutenberg.org/cache/epub/24022/pg24022.txt -o ./christmas/input/book.txt

设置工作区变量

若要初始化工作区,请先运行 graphrag init 命令。由于我们已在之前的步骤中配置了名为 ./christmas 的目录,请运行以下命令:

复制代码
graphrag init --root ./christmas

这将在 ./christmas 目录下创建两个文件:.env 和 settings.yaml。

.env 文件包含运行 GraphRAG 流程(pipeline)所需的环境变量。查看该文件时,你会看到其中定义了一个环境变量:GRAPHRAG_API_KEY=<API_KEY>。请将 <API_KEY> 替换为你自己的 OpenAI 或 Azure API 密钥。

settings.yaml 文件包含该流程(pipeline)的配置信息。你可以修改此文件来更改流程的相关配置。

1.2.3 索引流程

复制代码
graphrag index --root ./christmas

此过程运行需要一定时间,具体时长取决于以下因素:输入数据的大小、所使用的模型,以及采用的文本分块大小(这些参数可在 settings.yaml 文件中配置)。当流程(pipeline)完成后,你会看到一个名为 ./christmas/output 的新文件夹,其中包含一系列 Parquet 文件。

1.2.4 问题询问

现在我们使用这个数据集来提出一些问题。

以下是一个使用全局搜索(Global Search)提出宏观问题的示例:

复制代码
graphrag query \
--root ./christmas \
--method global \
--query "What are the top themes in this story?"

命令中的反斜杠 \ 用于换行分隔参数,保持命令结构清晰,执行时会被视为单行命令。

以下是使用本地搜索(Local Search)就某个特定角色提出更具体问题的示例:

复制代码
graphrag query \
--root ./christmas \
--method local \
--query "Who is Scrooge and what are his main relationships?"

参考文献

1\] [Getting Started - GraphRAG](https://microsoft.github.io/graphrag/get_started/ "Getting Started - GraphRAG") \[2\] [微软开源GraphRAG的使用教程(最全,非常详细)_graphrag使用-CSDN博客](https://blog.csdn.net/gaotianhao123/article/details/140493640?spm=1001.2014.3001.5506 "微软开源GraphRAG的使用教程(最全,非常详细)_graphrag使用-CSDN博客")

相关推荐
二十雨辰5 小时前
[python]-AI大模型
开发语言·人工智能·python
Yvonne爱编码6 小时前
JAVA数据结构 DAY6-栈和队列
java·开发语言·数据结构·python
前端摸鱼匠6 小时前
YOLOv8 环境配置全攻略:Python、PyTorch 与 CUDA 的和谐共生
人工智能·pytorch·python·yolo·目标检测
WangYaolove13147 小时前
基于python的在线水果销售系统(源码+文档)
python·mysql·django·毕业设计·源码
AALoveTouch7 小时前
大麦网协议分析
javascript·python
ZH15455891317 小时前
Flutter for OpenHarmony Python学习助手实战:自动化脚本开发的实现
python·学习·flutter
xcLeigh7 小时前
Python入门:Python3 requests模块全面学习教程
开发语言·python·学习·模块·python3·requests
xcLeigh7 小时前
Python入门:Python3 statistics模块全面学习教程
开发语言·python·学习·模块·python3·statistics
YongCheng_Liang8 小时前
从零开始学 Python:自动化 / 运维开发实战(核心库 + 3 大实战场景)
python·自动化·运维开发
鸽芷咕8 小时前
为什么越来越多开发者转向 CANN 仓库中的 Python 自动化方案?
python·microsoft·自动化·cann