GC-QA-RAG 智能问答系统的问答生成

本章节介绍 gc-qa-rag 智能问答系统中"生成(Generation)"阶段的核心原理与实现细节。该阶段的目标是:基于用户问题和检索到的高相关知识,利用大语言模型生成自然流畅、综合性概述的答案

1. 生成流程概述

问答生成阶段位于 RAG(Retrieval-Augmented Generation)三阶段架构的最后一环。其主要流程如下:

  1. 用户输入问题,系统完成检索,获得 TopK(如 8 条)高相关知识条目(包含问题、答案、详细解释、摘要、原文链接等元数据);
  2. 系统将用户问题与检索结果整合,构造标准化提示词(Prompt),输入给大语言模型(LLM);
  3. LLM 综合上下文与知识库内容,生成最终答案,并可附带原文链接、详细解释等信息返回给用户。

2. 输入结构与提示词设计

生成环节的输入主要包括:

  • 用户问题(User Input):当前用户的自然语言提问;
  • 检索结果(Hits):由混合检索与 RRF 融合排序得到的高相关知识条目列表。

系统采用结构化提示词模板,将上述信息拼接后输入给 LLM。例如:

python 复制代码
"""
你正在和用户对话,请综合参考上下文以及下面的用户问题和知识库检索结果,回答用户的问题。回答时附上文档链接。
## 用户问题
{keyword}

## 知识库检索结果
{hits_text}
"""

其中,hits_text为检索结果的 JSON 序列化内容,包含每条知识的"Question"、"Answer"、"FullAnswer"、"Summary"、"Url"等字段。

3. 生成服务实现

系统通过异步方式调用 LLM 服务,支持流式输出,提升响应速度和用户体验。主要实现逻辑如下:

  • 组装消息体(messages),包括 system prompt 和用户 prompt;
  • 调用 LLM 的 chat/completions 接口,设置合理的 temperature、top_p 等参数,平衡创造性与准确性;
  • 采用流式(stream=True)方式获取模型输出,边生成边返回前端。

相关代码实现见 ragapp/services/summary.py

python 复制代码
async def summary_hits(keyword, messages, hits):
    hits_text = json.dumps(hits, ensure_ascii=False, default=vars)
    hits_prompt = f"""你正在和用户对话,请综合参考上下文以及下面的用户问题和知识库检索结果,回答用户的问题。回答时附上文档链接。
    ## 用户问题
    {keyword}
    ## 知识库检索结果
    {hits_text}
    """
    ...
    return chat(messages_with_hits)

4. 思考模式(Reasoning Mode)

为增强答案的透明度与可信度,系统支持"思考模式"输出。此模式下,LLM 会先输出推理过程,再给出最终答案。例如:

  • > 前缀输出推理步骤;
  • 用分隔符 --- 区分推理与正式答案。

相关实现见 ragapp/services/think.py,适配支持 reasoning_content 的大模型(如 deepseek-R1):

python 复制代码
async def think(messages):
    ...
    async for chunk in completion:
        reasoning_content = chunk.choices[0].delta.reasoning_content
        ...
        content = chunk.choices[0].delta.content
        ...

5. 多轮对话与问题重写

系统支持多轮对话场景,能够根据历史对话自动识别用户当前真正想问的问题。具体流程为:

  1. 收集历史对话内容,输入给 LLM 问题生成器;
  2. LLM 输出用户的真实意图问题,作为检索与生成的输入。

相关实现见 ragapp/services/query.py

python 复制代码
async def chat_for_query(contents):
    prompt = f"""你是一个问题生成器,你需要从下面的对话中识别出用户想要查询的问题,直接输出该文本,该文本将用于在知识库中检索相关知识。
    ## 对话内容
    {contents}
    """
    ...
    return chat(messages)

6. 生成结果结构

最终生成的答案不仅包括直接回答,还可包含:

  • 相关知识条目的原文链接(Url)、标题(Title)、分类(Category)等元数据;
  • 详细解释(FullAnswer)、上下文摘要(Summary)等辅助信息;
  • 用户可选的推理过程(思考模式)。

7. 技术优势与工程实践

  • 结构化 Prompt 设计:确保 LLM 能充分利用检索到的知识,提升答案准确率;
  • 流式输出:优化用户体验,减少等待时间;
  • 多轮对话支持:提升复杂场景下的问答能力;
  • 推理透明化:增强用户信任感,便于结果溯源。

了解更多

AI智能体开发指南

相关推荐
canonical_entropy13 小时前
一份关于“可逆计算”的认知解码:从技术细节到哲学思辨的完整指南
后端·低代码·deepseek
Insight-n17 小时前
低代码数字化时代的开发新范式
低代码·ai
麦聪聊数据2 天前
企业级数据库管理实战(七):SQL 到 API,让数据库成为团队的数据服务
数据库·sql·低代码·数据服务
allanGold2 天前
【低代码】百度开源amis
低代码·amis
阿三08122 天前
低代码+AI生态:企业数字化起步阶段的“核聚变”冲击波
人工智能·低代码
低代码布道师3 天前
少儿舞蹈小程序(18)订单确认
低代码·小程序
中杯可乐多加冰3 天前
高校迎新管理系统:基于 smardaten AI + 无代码开发实践
人工智能·低代码·语言模型·llm·vue·管理系统·无代码
xhload3d4 天前
核潜艇虚拟作战管控系统 | 图扑数字孪生
物联网·低代码·3d·智慧城市·数字孪生·三维可视化·可视化·工业互联网·工业组态·轻量化·智慧军事·智慧军用设备·核潜艇·军事科技
canonical_entropy8 天前
从同步范式到组合范式:作为双向/δ-lenses泛化的可逆计算理论
后端·低代码·领域驱动设计