Qwen-Agent 内置RAG学习

1、概述

Qwen-Agent的内置rag系统,默认基于BM25 关键词检索算法实现文档匹配,是轻量级内存式RAG,Assistant 传入files参数即激活内置 RAG,适合小批量文件处理。

【内存加载流程】

1、文档解析与分块

doc_parser(qwen_agent\tools\simple_doc_parser.py)按文件后缀pdf、txt、docx等解析文件,按默认500字符将文本切分成多个文本块,生成{page_content, metadata}的字典列表

2、内存存储

分块列表存储在内存中,不持久化到磁盘

3、检索执行

retrieval遍历内存中的分块列表,默认使用BM25打分排序(不支持向量检索),返回Top-N相关块

4、模型推理

将得分最高的若干个文本块拼接到prompt,给大模型生成回答

2、Qwen-Agent的多文件 RAG 问答程序

python 复制代码
import os
from qwen_agent.agents import Assistant

llm_cfg = {
    "model": "qwen-turbo",
    "api_key": os.getenv('DASHSCOPE_API_KEY'),
    "temperature": 0.8
}

system_instruction = "你是一个文档问答助手,必须根据提供的文档内容回答问题,不要编造答案。"

# 获取文件夹下所有文件
file_dir = os.path.join('./', 'docs')
files = []
if os.path.exists(file_dir):
    # 遍历目录下的所有文件
    for file in os.listdir(file_dir):
        file_path = os.path.join(file_dir, file)
        if os.path.isfile(file_path):  # 确保是文件而不是目录
            files.append(file_path)
print('files=', files)

bot = Assistant(
    llm=llm_cfg,
    system_message=system_instruction,
    function_list=[],
    files=files
)

messages = []
query = "介绍下雇主责任险"
# 将用户请求添加到聊天历史。
messages.append({'role': 'user', 'content': query})
response = []
current_index = 0

print("助手回答:", end='')
for response in bot.run(messages=messages):
    if current_index == 0:
        # 尝试获取并打印召回的文档内容
        if hasattr(bot, 'retriever') and bot.retriever:
            print("\n===== 召回的文档内容 =====")
            retrieved_docs = bot.retriever.retrieve(query)
            if retrieved_docs:
                for i, doc in enumerate(retrieved_docs):
                    print(f"\n文档片段 {i+1}:")
                    print(f"内容: {doc.page_content}")
                    print(f"元数据: {doc.metadata}")
            else:
                print("没有召回任何文档内容")
            print("===========================\n")

    current_response = response[0]['content'][current_index:]
    current_index = len(response[0]['content'])
    print(current_response, end='')

# 将机器人的回应添加到聊天历史。
messages.append({'role': 'assistant', 'content': response[-1]['content']})

【运行如图】

文档解析:Start parsing / Finished parsing

文本分块:Start chunking / Finished chunking

BM25检索:Building prefix dict from the default dictionary

第一次运行在工作目录下会有workspace,里面保存了解析阶段的缓存,Qwen-Agent 下次启动程序时,会优先读取 workspace 里面的缓存文件。

相关推荐
武昌库里写JAVA9 分钟前
SpringBoot+Vue 项目介绍
java·javascript·git·sql·ai
VIP_CQCRE18 分钟前
GPT Image 2.6 商品图换背景后悬浮?接触阴影、透明区域与反射验收
图像处理·人工智能·ai·电商
七夜zippoe5 小时前
Agent 告警设计:分级告警、智能降噪与值班排班
开发语言·ai·agent·告警·智能降噪·值班排班
Z21-X8 小时前
云原生运维学习笔记:Kubernetes Volume 与 Secret 实验
运维·笔记·学习·云原生·kubernetes
wflynn10 小时前
AI 产品 ChatPRD 遭遇 token 欺诈,滥用者用免费试用构建游戏地图
ai·技术
console.log('npc')12 小时前
Python 学习教程 · 第4课:数据结构
数据结构·python·学习
星落梦生15 小时前
Docker学习(11)
学习·docker·容器
万里侯18 小时前
日志聚类之后别把 noise 扔掉:降噪应该改变视图,不抹掉证据
人工智能·微服务·ai·容器·k8s
澹锦汐18 小时前
纯前端秋日银杏与枫叶落叶色板智能聚类器:基于 K-Means 色彩量化与直方图自动配方提取
前端·人工智能·ai·语言模型·vue·react·k-means