LangChain核心组件---消息

(一).LLM消息结构

消息是聊天模型中的通信单位,用来表示聊天模型的输入和输出,以及可能与对话关联的任何其他上下文或元数据。

每条消息都有一个角色和内容,以及因LLM的不同而不同的附加元数据。

关于消息的角色,分为system(系统角色),user(用户角色),assistant(助理角色)主要用来表述模型的响应。tool(工具角色)。

关于消息的内容:表示多模态数据,例如图像,视频等等的消息文本或字典列表的内容。

关于消息的元数据。有ID消息标识符,Name名称允许区分具有相同角色的不同实体,Metadata有关消息的其他信息,Tool Calls 模型发出的一个或者多个工具的调用请求。

例如,下面是OpenAI的格式消息列表:

复制代码
[
    {
        "role": "user",
        "content": "Hello, how are you?",
    },
    {
        "role": "assistant",
        "content": "I'm doing well, thank you for asking.",
    },
    {
        "role": "user",
        "content": "Can you tell me a joke?",
    }
]

LangChain接受下面的格式作为聊天模型的输入:

python 复制代码
chat_model.invoke([
    {
        "role": "user",
        "content": "Hello, how are you?",
    },
    {
        "role": "assistant",
        "content": "I'm doing well, thank you for asking.",
    },
    {
        "role": "user",
        "content": "Can you tell me a joke?",
    }
])

(二).LangChain 消息

1.介绍

LangChain提供了一种统一的消息格式,可以跨聊天模型使用,允许用于使用不同的聊天模型。

python 复制代码
openai_model = init_chat_model("gpt-4o-mini", model_provider="openai")

anthropic_model = init_chat_model("claude-3-5-sonnet-latest",model_provider="anthropic")

deepseek_model = init_chat_model("deepseek-chat", model_provider="deepseek")

google_genai_model = init_chat_model("gemini-2.5-flash",model_provider="google_genai")

由于模型提供商不同,所以对于他们的输入输出,都要统一使用LangChain的消息格式。LangChain的消息格式主要有5种,分别为SystemMessage,对应的system角色;HumanMessage,对应的user用户角色;AIMessage,对应assistant助理角色,AIMessageChunk,对应assistant助理角色,用于流式响应;ToolMessage,对应tool工具角色

2.BaseMessage抽象消息类

SystemMessage,HumanMessage,AIMessage,ToolMessage都是LangChain中BaseMessage的子类,BaseMessage是作为LangChain聊天模型的输入和输出。

内置方法,打印消息的漂亮表示。

3.对话模式

大多数对话都以设置对话上下文的系统消息开始。接下来是包含用户输入的用户消息,然后包含模型响应的助手消息。

(三).缓存历史消息

1.多轮对话

目前,我们的我们的系统还并不支持"多轮对话"的功能。

python 复制代码
import os

from langchain_openai import ChatOpenAI


model = ChatOpenAI(
    model= "deepseek-flash",
    base_url= "https://api.deepseek.com",
    api_key= os.environ["OPENAI_API_KEY"]
)

model.invoke("我是111,你好").pretty_print()
model.invoke("你知道我是谁吗?").pretty_print()

可以发现,聊天模型并不认识我们,但是如果我们将AI回复给我们的响应跟着新的用户消息一起发给聊天模型,那么我们就可以实现多轮对话的功能了。

python 复制代码
import os

from langchain_openai import ChatOpenAI
from langchain_core.messages import AIMessage, HumanMessage


model = ChatOpenAI(
    model= "deepseek-flash",
    base_url= "https://api.deepseek.com",
    api_key= os.environ["OPENAI_API_KEY"]
)
#
# model.invoke("我是111,你好").pretty_print()
# model.invoke("你知道我是谁吗?").pretty_print()

messages= [
    HumanMessage(content="我是111,你好"),
    AIMessage(content="你好,111!很高兴见到你 😊 有什么我可以帮你的吗?"),
    HumanMessage(content="你知道我是谁吗?")
]

model.invoke(messages).pretty_print()

可以看到,我们只要将历史消息,重新发送给聊天模型,那么就可以实现多轮对话的功能了。

2.内存缓存

python 复制代码
store = {}   #定义内存

# 根据会话 id 查询会话里的消息列表
def get_session_history(session_id: str) -> BaseChatMessageHistory:
    if session_id not in store:
        # InMemoryChatMessageHistory() 帮助我们将AIMessage HumanMessage等消息自动添加进来
        store[session_id] = InMemoryChatMessageHistory()
    return store[session_id]

with_history_message_model = RunnableWithMessageHistory(model,get_session_history)

# invoke: config: 配置 Runnable 实例
config = {
    "configurable": {
        "session_id": "1"
    }
}

with_history_message_model.invoke(
    [HumanMessage(content="我是小明,你好")],
    config= config
).pretty_print()

关于内存缓存,从LangChain的v0.3版本开始,官方建议LangChain用户不要使用RunnableWithMessageHistory ,而是利用LangGraph持久性来完成。这个后面再进行具体介绍。

(四).管理历史消息

1.概念

(1).上下文窗口

上下文窗口,可以理解为**"短期工作记忆区"** ,在LLM一次处理请求时,所能查看和处理的最大Token数量 ,包含了用户的输入 ,大模型的输出 ,还有的是系统指令 和对话历史

注意:不同大模型支持的上下文窗口大小不同

deepseek的上下文长度为1M

GLM的上下文长度为32K

(2).Token

在自然语言处理(NLP)中,Token是文本的基本单位。它是一个更细粒度的划分。对于英文,1个token约等于4个字符或者0.75个单词;对于中文,1个汉字约等于1.5~2个 tokens


上下⽂窗⼝就像⼀个固定⼤⼩的⼯作台,再把 Token ⽐作⼀个积⽊零件,把⼤模型⽐作⼀个⼯匠。⼯匠需要拼出模型,必须把所需的零件(输⼊的 Token) 放在⼯作台上,⼀边拼装(⽣成回 复),⼀边把拼好的部分(输出的 Token)也放在⼯作台上。整个过程(输⼊+输出)中,⼯作台上的所有积⽊(Tokens)总数都不能超过⼯作台的最⼤容量(上下⽂窗⼝⼤⼩)。

注意:如果最初的零件太多,占满了⼯作台,⼯匠就没有空间进⾏拼装了。这时你就需要减少零件(精简输⼊)。

2.消息裁剪

多轮对话的实现原理,其实就是,输入的消息(系统消息+对话历史+最新用户消息)。对于llm来说,并不是真正的"记忆",而是每次都将完整的上下文重新输入 。但是,所有模型的上下文都是有限的,那么就意味着输入的Token也是有限的。我们可以通过trim_messages 将聊天历史记录的大小减小为指定的令牌计数或指定的消息计数。

(1).基于输入Token数的修剪

python 复制代码
import os

from langchain_core.messages import AIMessage, HumanMessage,SystemMessage, trim_messages

from langchain_openai import ChatOpenAI

model = ChatOpenAI(
    model= "deepseek-flash",
    base_url= "https://api.deepseek.com",
    api_key= os.environ["OPENAI_API_KEY"]
)

# 历史消息
messages = [
    SystemMessage(content="you're a good assistant"),
    HumanMessage(content="hi! I'm bob"),
    AIMessage(content="hi!"),
    HumanMessage(content="I like vanilla ice cream"),
    AIMessage(content="nice"),
    HumanMessage(content="whats 2 + 2"),
    AIMessage(content="4"),
    HumanMessage(content="thanks"),
    AIMessage(content="no problem!"),
    HumanMessage(content="having fun?"),
    AIMessage(content="yes!"),
    HumanMessage(content="What's my name?"),
]

model.invoke(messages).pretty_print()

上面是裁剪之前的,可以发现,聊天模型是可以认识到我们的名字的

下面,通过trim_messages进行裁剪

python 复制代码
import os

from langchain_core.messages import AIMessage, HumanMessage,SystemMessage, trim_messages

from langchain_openai import ChatOpenAI

model = ChatOpenAI(
    model= "deepseek-flash",
    base_url= "https://api.deepseek.com",
    api_key= os.environ["OPENAI_API_KEY"]
)

# 历史消息
messages = [
    SystemMessage(content="you're a good assistant"),
    HumanMessage(content="hi! I'm bob"),
    AIMessage(content="hi!"),
    HumanMessage(content="I like vanilla ice cream"),
    AIMessage(content="nice"),
    HumanMessage(content="whats 2 + 2"),
    AIMessage(content="4"),
    HumanMessage(content="thanks"),
    AIMessage(content="no problem!"),
    HumanMessage(content="having fun?"),
    AIMessage(content="yes!"),
    HumanMessage(content="What's my name?"),
]


trim = trim_messages(
    max_tokens= 90,         #修剪消息的最大令牌数,根据你想要的谈话长度来调整
    strategy= "last",       #修剪策略:默认是last,保留最后的消息。first,保留最早的消息
    token_counter= model,   #传入一个函数或一个语言模型,因为语言模型有消息令牌计数方法
    include_system= True,   #如果想要始终保留初始系统消息,可以指定include_system=True
    allow_partial= False,   #是否允许拆分消息的内容
    start_on= "human"       #如果需要确保我们的第一条消息(不包括系统消息)始终是特定类型,可以指定 start_on
)

chain = trim | model
print(chain.invoke(messages))

(2).基于消息数的修剪

我们将token_counter 设置为 len, 那么就可以根据消息数修剪聊天记录。在这里,max_token指的是最大消息数。

python 复制代码
import os

from langchain_core.messages import AIMessage, HumanMessage,SystemMessage, trim_messages

from langchain_openai import ChatOpenAI

model = ChatOpenAI(
    model= "deepseek-flash",
    base_url= "https://api.deepseek.com",
    api_key= os.environ["OPENAI_API_KEY"]
)

# 历史消息
messages = [
    SystemMessage(content="you're a good assistant"),
    HumanMessage(content="hi! I'm bob"),
    AIMessage(content="hi!"),
    HumanMessage(content="I like vanilla ice cream"),
    AIMessage(content="nice"),
    HumanMessage(content="whats 2 + 2"),
    AIMessage(content="4"),
    HumanMessage(content="thanks"),
    AIMessage(content="no problem!"),
    HumanMessage(content="having fun?"),
    AIMessage(content="yes!"),
    HumanMessage(content="What's my name?"),
]


# trim = trim_messages(
#     max_tokens= 90,         #修剪消息的最大令牌数,根据你想要的谈话长度来调整
#     strategy= "last",       #修剪策略:默认是last,保留最后的消息。first,保留最早的消息
#     token_counter= model,   #传入一个函数或一个语言模型,因为语言模型有消息令牌计数方法
#     include_system= True,   #如果想要始终保留初始系统消息,可以指定include_system=True
#     allow_partial= False,   #是否允许拆分消息的内容
#     start_on= "human"       #如果需要确保我们的第一条消息(不包括系统消息)始终是特定类型,可以指定 start_on
# )

trim = trim_messages(
    max_tokens= 10,
    strategy= "last",
    token_counter= len,
    include_system= True,
    allow_partial= False,
    start_on= "human"
)

print(trim.invoke(messages))
#[
# SystemMessage(content="you're a good assistant", additional_kwargs={}, response_metadata={}),
# HumanMessage(content='I like vanilla ice cream', additional_kwargs={}, response_metadata={}),
# AIMessage(content='nice', additional_kwargs={}, response_metadata={}, tool_calls=[], invalid_tool_calls=[]),
# HumanMessage(content='whats 2 + 2', additional_kwargs={}, response_metadata={}),
# AIMessage(content='4', additional_kwargs={}, response_metadata={}, tool_calls=[], invalid_tool_calls=[]),
# HumanMessage(content='thanks', additional_kwargs={}, response_metadata={}),
# AIMessage(content='no problem!', additional_kwargs={}, response_metadata={}, tool_calls=[], invalid_tool_calls=[]),
# HumanMessage(content='having fun?', additional_kwargs={}, response_metadata={}),
# AIMessage(content='yes!', additional_kwargs={}, response_metadata={}, tool_calls=[], invalid_tool_calls=[]),
# HumanMessage(content="What's my name?", additional_kwargs={}, response_metadata={})
# ]


chain = trim | model
print(chain.invoke(messages))

3.消息过滤

有时候,我们可能只想将这个完整消息列表的子集传递给模型调用,而不是所有的历史记录。那么我们可以通过filter_messages方法则可以轻松地按类型,ID或者名称过滤message。

python 复制代码
import os

from langchain_core.messages import AIMessage, HumanMessage,SystemMessage, filter_messages, merge_message_runs

from langchain_openai import ChatOpenAI

model = ChatOpenAI(
    model= "deepseek-flash",
    base_url= "https://api.deepseek.com",
    api_key= os.environ["OPENAI_API_KEY"]
)

# 历史消息记录
messages = [
SystemMessage("你是⼀个聊天助⼿", id="1"),
HumanMessage("⽰例输⼊", id="2"),
AIMessage("⽰例输出", id="3"),
HumanMessage("真实输⼊", id="4"),
AIMessage("真实输出", id="5"),
]

# 按照类型筛选
print(filter_messages(messages, include_types="human"))     #只保留HumanMessage类型的消息

可以看到,留下的只有HumanMessage

同样,也可根据id进行筛选

python 复制代码
import os

from langchain_core.messages import AIMessage, HumanMessage,SystemMessage, filter_messages, merge_message_runs

from langchain_openai import ChatOpenAI

model = ChatOpenAI(
    model= "deepseek-flash",
    base_url= "https://api.deepseek.com",
    api_key= os.environ["OPENAI_API_KEY"]
)

# 历史消息记录
messages = [
SystemMessage("你是⼀个聊天助⼿", id="1"),
HumanMessage("⽰例输⼊", id="2"),
AIMessage("⽰例输出", id="3"),
HumanMessage("真实输⼊", id="4"),
AIMessage("真实输出", id="5"),
]

# 按照类型筛选
# print(filter_messages(messages, include_types="human"))     #只保留HumanMessage类型的消息

# 按照id筛选
print(filter_messages(messages,exclude_ids=["2","3","4"]))

可以看到,只剩下id为1和5的数据了

还可以根据类型和id进行筛选

python 复制代码
import os

from langchain_core.messages import AIMessage, HumanMessage,SystemMessage, filter_messages, merge_message_runs

from langchain_openai import ChatOpenAI

model = ChatOpenAI(
    model= "deepseek-flash",
    base_url= "https://api.deepseek.com",
    api_key= os.environ["OPENAI_API_KEY"]
)

# 历史消息记录
messages = [
SystemMessage("你是⼀个聊天助⼿", id="1"),
HumanMessage("⽰例输⼊", id="2"),
AIMessage("⽰例输出", id="3"),
HumanMessage("真实输⼊", id="4"),
AIMessage("真实输出", id="5"),
]

# 按照类型筛选
# print(filter_messages(messages, include_types="human"))     #只保留HumanMessage类型的消息

# 按照id筛选
# print(filter_messages(messages,exclude_ids=["2","3","4"]))


# 根据类型和id进行筛选
print(filter_messages(messages,include_types="human",exclude_ids=["4"]))

可以看到,只剩下id为2的HumanMessage了

4.消息合并

如果在消息列表中存在连续某种类型相同的消息,但实际上某些模型不支持传递相同类型的连续消息,因此对于这种情况,我们可以使用merge_messages_runs方法合并相同类型的连续消息。

python 复制代码
import os

from langchain_core.messages import AIMessage, HumanMessage,SystemMessage, filter_messages, merge_message_runs

from langchain_openai import ChatOpenAI

model = ChatOpenAI(
    model= "deepseek-flash",
    base_url= "https://api.deepseek.com",
    api_key= os.environ["OPENAI_API_KEY"]
)

messages = [
    SystemMessage("你是⼀个聊天助⼿。"),
    SystemMessage("你总是以笑话回应。"),
    HumanMessage("为什么要使⽤ LangChain?"),
    HumanMessage("为什么要使⽤ LangGraph?"),
    AIMessage("因为当你试图让你的代码更有条理时,LangGraph 会让你感到"节点"是个好主意!"),
    AIMessage("不过别担⼼,它不会"分散"你的注意⼒!"),
    HumanMessage("选择LangChain还是LangGraph?"),
]

# # 方式1
# merge_message = merge_message_runs(messages)
# print(merge_message)
# print(model.invoke(merge_message))

# 方式2

merge_message = merge_message_runs()
chain = merge_message | model
print(chain.invoke(messages))

可以看到,消息已经发生了合并

相关推荐
xyphf_和派孔明3 小时前
第十章: Agent Skill的调用机制解读
langchain·llm·agent
掘黄金的打工人7 小时前
LangChain 少样本示例 和 动态示例选择
langchain·aigc·ai编程
kevin_org8 小时前
LangChain入门学习(四)
python·学习·langchain·fastapi
IvanCodes1 天前
LangChain(04):Runnable 与 LCEL 的执行与组合机制
python·langchain·agent
Cosolar1 天前
从 Model 到 System:AI Agent Infra 工程师的技术全景与学习路径
langchain·aigc·agent
GISer_Jing2 天前
GitHub热点I
后端·ai·langchain
M--Y2 天前
LangGraph 架构基石:持久化与运行控制
python·langchain·大模型·llm·持久化·langgraph
xyphf_和派孔明2 天前
第十章: LangGraph的人机交互Human-in-the-loop实践
langchain·llm
xyphf_和派孔明2 天前
第六章: LangGraph的工具调用代理-Tool Calling Agent
langchain·llm