rag学习5

本周基于 LangChain 框架完成了支持多轮对话的 RAG 检索增强问答服务开发,编写RagService核心类,整合通义大模型、DashScope 向量嵌入模型与自研向量库服务,依托配置文件统一管理模型参数,完成各项基础组件的初始化搭建。

本次开发中设计了专属提示词模板,通过ChatPromptTemplate搭配MessagesPlaceholder预留对话历史位置,明确模型应答要求,优先结合检索到的参考资料作答。同时自定义函数完成检索文档内容、元数据的格式化处理,规范数据展示形式。

项目运用 LangChain 各类 Runnable 组件完成链路编排,借助RunnablePassthrough实现数据透传、RunnableLambda完成自定义数据转换,串联文档检索、数据处理、提示词拼接、模型调用、结果解析全流程,并使用StrOutputParser统一输出格式。

本次实践掌握了 LangChain 链式调用逻辑与 RAG 完整业务流程,通过RunnableWithMessageHistory对接历史会话读取接口,实现问答场景的上下文记忆能力。后续将开展功能测试,优化文档格式化逻辑,并进一步拓展服务适配更多业务场景。

python 复制代码
from langchain_core.output_parsers import StrOutputParser
from langchain_core.runnables import RunnablePassthrough, RunnableWithMessageHistory, RunnableLambda

from file_history_store import get_history
from vectoer_stores import VectorStoreService
from langchain_community.embeddings import DashScopeEmbeddings
import config_data as config
from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder
from langchain_community.chat_models.tongyi import ChatTongyi
from langchain_core.documents import Document

class RagService:
    def __init__(self):
        self.vector_service = VectorStoreService(embedding = DashScopeEmbeddings(model = config.embedding_model_name ))

        self.prompt_template = ChatPromptTemplate.from_messages(
            [
                ("system","以我提供的已知参考资料为主,简洁和专业的回答用户问题。参考资料{context}"),
                ("system", "并且我提供的用户的历史对话如下"),
                MessagesPlaceholder("history"),
                ("user", "请回答用户提问:{input}")
            ]
        )

        self.chat_model = ChatTongyi(model = config.chat_model_name)

        self.chain = self.__get_chain()

    def __get_chain(self) :

        retriever = self.vector_service.get_retriever()

        def format_document(docs: list[Document]) :
            if not docs :
                return "没有参考资料"

            formatted_str = ""
            for doc in docs :
                formatted_str += f"文档片段:{doc.page_content}\n文档原数据:{doc.metadata}\n"

            return formatted_str

        def format_for_retriever(value):
            return value["input"]

        def format_for_prompt_template(value):
            new_dict = {}
            new_dict["input"] = value["input"]["input"]
            new_dict["context"] = value["context"]
            new_dict["history"] = value["input"]["history"]
            return new_dict



        chain = (
            {"input":RunnablePassthrough() ,
             "context":RunnableLambda(format_for_retriever)| retriever | format_document}
            |RunnableLambda(format_for_prompt_template)
            | self.prompt_template
            | self.chat_model
            | StrOutputParser()
        )

        conversation_chain =RunnableWithMessageHistory(
            chain,
            get_history,
            input_messages_key="input",
            history_messages_key="history",
        )


        return conversation_chain
相关推荐
朱 欢 庆17 小时前
云服务器附件备份到本机内网服务器
运维·服务器·前端·经验分享
Sylvia33.17 小时前
LOL实时数据接入深度解析:从WebSocket到完整数据模型
java·网络·python·websocket·网络协议
梦想不只是梦与想17 小时前
Web 服务器网关协议:ASGI 和 WSGI
服务器·python·fastapi
ai小陈20 小时前
PyTorch DataLoader数据加载性能排查:GPU利用率低的实操指南
人工智能·pytorch·python·深度学习·ai·gpu算力
2601_962299241 天前
Azure python操作系统列表
python·操作系统·azure·虚拟机·存储配置文件
支支დ1 天前
VO by Vercel 前端特定优势:为什么它是构建 AI 应用的新范式
前端·人工智能
香芋芋圆1 天前
AI 冲击内卷之下,普通前端如何破局?WebGIS—— 低门槛突围赛道
前端·javascript·人工智能·学习·职场发展
学术 学术 Fun1 天前
如何用 API 与 Webhook 批量把图表图片转换成 VSDX
python·自动化·api·visio
琥珀色糖1 天前
Linux守护进程
linux·终端·守护进程·会话·进程组
INS_KF1 天前
【编程笔记】成员函数中两个 const 的区别(const Data &getData() const;)
前端·javascript·笔记