基本概念
什么是langchain?
- LangChain是 2022年10月 ,由哈佛大学的 Harrison Chase (哈里森·蔡斯)发起研发的一个开源框架,
用于开发由大语言模型(LLMs)驱动的应用程序。
比如,搭建"智能体"(Agent)、问答系统(QA)、对话机器人、文档搜索系统、企业私有知识库
等。
langchain将大模型与外部数据&各种组件连接成链,以此构建AI应⽤程序。
好处 :
1、简化开发难度:更简单更高效效果更好。
2、学习成本更低:不同模型的API不同,调用方式也有区别,切换模型时学习成本高。使用LangChain,可以以统一、规范的方式进行调用,有更好的移植性。
3、现成的链式组装:LangChain提供了一些 现成的链式组装 ,用于完成特定的高级任务。让复杂的逻辑变得 结构化、易组合、易扩展。
提供的功能:LangChain 是一个帮助你构建 LLM 应用的 全套工具集 。这里涉及到prompt 构建、LLM 接入、记忆管理、工具调用、RAG、智能体开发等模块。
架构设计
1、Langchain
langchain :构成应用程序认知架构的Chains,Agents,Retrieval strategies等。
构成应用程序的链、智能体、RAG
Langchain-community(第三方集成):比如Model I/O、Retrieval(检索)、Tool&Toolkit等
Langchain-Core:基础抽象和LangChain表达式语言 (LCEL)
2、LangGraph
LangGraph可以看做基于LangChain的api的进一步封装,能够协调多个Chain、Agent、Tools完成更
复杂的任务,实现更高级的功能。
3、LangSmith
提供了6大功能,涉及Debugging (调试)、Playground (沙盒)、Prompt Management (提示管理)、Annotation (注释)、Testing (测试)、Monitoring (监控)等。与LangChain无缝集成,帮助你从原型阶段过渡到生产阶段。
主要用来运维和监控。链路追踪。
4、LangServe
将LangChain的可运行项和链部署为REST API,使得它们可以通过网络进行调用。