一 LLM应用开发的常见工程需求
提示词管理:提供可参数化、可重用的提示模版机制
上下文与记忆管理:自动化的记忆管理与上下文整理能力
多步骤任务流程:能组合多个模型与工具的流程控制机制
外部资料整合:支持资料载入、嵌入与检索的RAG能力
工具呼叫与动态决策:具备条件判断与功能呼叫能力的Agent机制
除错与观察:可观测输入、输出与中间状态的除错与监控工具
LangChain正是针对这些需求所设计的框架,它让开发者能以组装的方式快速建立具备记忆、逻辑与扩展性的智慧应用,将语言模型的生成能力转化为可维护、可持续演进的系统基础。
简单来说LangChain是模型与应用程序的桥梁
二 LangChain的核心能力
提示模版与结构化输出、多步骤流程组合、上下文与记忆管理、外部资料整合、工具呼叫与动态决策、除错和可观测性
三 LangChain主体套件:从核心到应用组装
LangChain支持python/typescript,其主体架构可分为核心抽象、应用组装与整合扩充三个方面。
LangChain/core:提供LangChain的核心抽象与标准,作为各类元件与整合套件的共同基础
langchain:在核心抽象智商,提供较高阶的应用组装能力与常见流程元件
langchain/community:收录由社区维护的第三方整合,并遵循核心规范,能直接与Langchain搭配使用
关于提示词:langchain的prompt template是会话的模版、多轮会话,并实现会话语境上下文,format message用于给出会话的标准结构,messagesPlaceholder历史对话插槽,新的对话加入历史对话。
四 LangGraph:回结构流程控制
LangGraph它以node节点与edge边构成回型结构,通过共享状态state串接多个执行步骤,用于处理多轮互动与长时任务
LangGraph与pipline的区别:pipline是线程管理,langgraph的回型支持循环执行与跨步骤执行。
五 LangSmith 它是一个监测平台
学习笔记源自 ---《node.js生成式AI应用开发实战》