RAG(二)基于 LangChain+FAISS + 通义千问搭建轻量级 RAG 检索增强生成系统

一、什么是 RAG？

检索增强生成（Retrieval-Augmented Generation，RAG）是大语言模型应用的核心技术之一，它通过「检索外部知识库 + 大模型生成回答」的方式，解决了大模型「知识过时」「事实性错误」「幻觉」等问题。简单来说，RAG 的核心逻辑是：先找答案相关的资料，再让大模型基于资料回答问题，而非让大模型凭空生成。

本文将手把手教你搭建一个轻量级 RAG 系统，核心技术栈包括：

• LangChain：一站式 LLM 应用开发框架，负责流程编排；
• FAISS：Facebook 开源的高效向量检索库，用于构建本地向量数据库；
• BCE 嵌入模型：中文轻量级文本嵌入模型，将文本转为可检索的向量；
• 通义千问（qwen-plus）：阿里云开源大模型，负责最终的自然语言回答。

二、核心开发思路

本次实战的 RAG 系统流程可总结为 4 步：

1. 文本向量化：用 BCE 嵌入模型将本地文本转为向量；
2. 向量存储与检索：用 FAISS 构建向量库，根据用户问题检索最相关的文本；
3. Prompt 构建：将检索到的文本作为「上下文」，拼接用户问题生成 Prompt；
4. 大模型生成：调用通义千问 API，基于上下文生成精准回答。

三、完整实战代码与解析

3.1 环境准备

首先安装所需依赖，执行以下命令：

# 核心依赖：LangChain全家桶
pip install langchain langchain-community langchain-core langchain-huggingface
# 向量库：FAISS（CPU版本）
pip install faiss-cpu
# 模型下载与加载：ModelScope
pip install modelscope
# 环境变量管理：python-dotenv
pip install python-dotenv
# OpenAI兼容接口：调用通义千问
pip install openai

同时需要准备两个关键资源：

• 阿里云 DashScope API Key：前往「阿里云百炼控制台」申请（免费额度足够测试）；

• BCE 嵌入模型：通过 ModelScope 下载到本地（也可直接使用线上模型）。

  导入必要的库

  from langchain_community.vectorstores import FAISS
  from langchain_core.prompts import ChatPromptTemplate
  from modelscope import snapshot_download
  from langchain_huggingface import HuggingFaceEmbeddings
  from langchain_core.runnables import RunnableParallel, RunnablePassthrough
  from langchain_core.output_parsers import StrOutputParser
  from dotenv import load_dotenv
  import os
  from langchain_openai import ChatOpenAI
  from pydantic import SecretStr

  加载环境变量（用于读取 API Key）

  load_dotenv()

  --------------------------

  1. 下载/加载本地嵌入模型（可选：如果已下载可注释）

  --------------------------

  如果你还没下载模型，取消下面注释，下载到指定目录

  model_dir = snapshot_download(

  'maidalun/bce-embedding-base_v1',

  cache_dir="D:\本地模型"

  )

  --------------------------

  2. 初始化嵌入模型

  --------------------------

  替换为你实际的模型本地路径

  model_name = r'D:\本地模型\maidalun\bce-embedding-base_v1'

  嵌入模型配置：归一化向量（提升检索精度）

  encode_kwargs = {'normalize_embeddings': True}
  embeddings = HuggingFaceEmbeddings(
  model_name=model_name,
  encode_kwargs=encode_kwargs,
  # 可选：指定设备，如 CPU 或 GPU
  model_kwargs={'device': 'cpu'}
  )

  --------------------------

  3. 构建 FAISS 向量库并检索

  --------------------------

  初始化向量库（3条示例文本）

  vectorstore = FAISS.from_texts(
  ["兔子喜欢吃萝卜", "小明在华为工作", "熊喜欢吃蜂蜜"],
  embedding=embeddings
  )

  转为检索器（默认返回最相关的1条结果）

  retriever = vectorstore.as_retriever(search_kwargs={"k": 1})

  测试检索功能

  vectorresult = retriever.invoke("熊喜欢吃什么")
  print("检索结果：", vectorresult)

  预期输出：[Document(page_content='熊喜欢吃蜂蜜', metadata={})]

  --------------------------

  4. 配置 Prompt 模板和大模型

  --------------------------

  定义 Prompt 模板（限定只基于检索内容回答）

  template = """
  只根据以下文档回答问题，不要使用文档外的信息：

  {context}

  问题：{question}
  """
  prompt = ChatPromptTemplate.from_template(template)

  初始化输出解析器（将大模型输出转为字符串）

  output_parser = StrOutputParser()

  初始化通义千问大模型（通过阿里云 DashScope）

  方式1：从环境变量读取 API Key（推荐）

  确保 .env 文件中有 DASHSCOPE_API_KEY="你的API密钥"

  api_key = os.getenv("DASHSCOPE_API_KEY")
  if not api_key:
  # 方式2：直接填写（测试用，不推荐）
  api_key = "你的DashScope API Key"

  llm = ChatOpenAI(
  base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
  model="qwen-plus",
  api_key=SecretStr(api_key),
  temperature=0.1 # 降低随机性，让回答更精准
  )

  --------------------------

  5. 构建 RAG 链并运行

  --------------------------

  并行执行：检索上下文 + 透传问题

  setup_and_retriev = RunnableParallel(
  {
  "context": retriever,
  "question": RunnablePassthrough()
  }
  )

  拼接 RAG 链：检索 → 构建 Prompt → 调用大模型 → 解析输出

  chain = setup_and_retriev | prompt | llm | output_parser

  调用链并输出结果

  try:
  result = chain.invoke("熊喜欢吃什么？")
  print("\n最终回答：", result)
  except Exception as e:
  print(f"\n运行出错：{e}")

多个参数的传入

多个参数的传入

3.3 关键代码解析

1. 嵌入模型初始化 ：HuggingFaceEmbeddings 加载本地 BCE 模型，normalize_embeddings=True 对生成的向量做归一化处理，能显著提升 FAISS 的检索准确率。

2. FAISS 向量库构建 ：FAISS.from_texts() 直接将文本列表转为向量库，as_retriever() 转为检索器，search_kwargs={"k": 1} 指定返回 1 条最相关结果（可根据需求调整 k 值）。

3. RAG 链编排 ：LangChain 的RunnableParallel实现「检索上下文」和「透传问题」的并行执行，再通过管道符|串联「Prompt 构建→大模型调用→输出解析」，实现端到端的 RAG 流程。

4. 通义千问调用 ：阿里云 DashScope 提供了兼容 OpenAI 的接口，因此可以直接用ChatOpenAI类调用通义千问，只需指定base_url和model参数即可。

四、运行结果与扩展方向

4.1 预期运行结果

检索到的相关文本： [Document(page_content='熊喜欢吃蜂蜜', metadata={})]

最终回答： 熊喜欢吃蜂蜜。

4.2 扩展方向

1. 知识库扩展 ：将示例文本替换为本地文档（如 PDF、Word），通过 LangChain 的文档加载器（如PyPDFLoader）读取；
2. 批量检索 ：调整search_kwargs={"k": 3}，返回多条相关文本，提升回答丰富性；
3. 本地大模型：将通义千问替换为本地部署的大模型（如 Llama、Qwen-7B），摆脱 API 调用限制；
4. 优化检索 ：使用BM25混合检索，或对嵌入模型做微调，提升检索精准度；
5. 界面封装：结合 Gradio/Streamlit 搭建可视化界面，降低使用门槛。

五、核心总结

1. RAG 的核心是「先检索后生成」，通过 LangChain 可快速编排检索、Prompt、大模型调用的全流程；
2. 本地嵌入模型（BCE）+ FAISS 向量库实现了轻量化的离线检索，无需依赖第三方向量数据库；
3. 通义千问的 OpenAI 兼容接口降低了大模型调用的开发成本，新手也能快速上手。

这一轻量级 RAG 系统可作为基础框架，适配知识库问答、文档助手、智能客服等各类场景，是入门大模型应用开发的绝佳实践案例。