ChatGPT、Playground手动模拟Agent摘要缓冲混合记忆功能

01. 摘要缓冲混合记忆

摘要缓冲混合记忆中，所需的模块有：

chat_message_history：存储历史消息列表。
moving_summary_buffer：移除消息的汇总字符串。
summary_llm：生成摘要的 LLM，接收 summary（当前摘要）、query（人类提问）、content（AI生成）。
max_tokens：限制记忆模块存储消息的最大 token 数。
get_num_tokens：用于统计传入的文本的 token 数

02. ChatGPT/Playground 模拟

将记忆的 max_tokens 长度设置为 300，模拟所需物料：

ChatGPT 官网：https://chatgpt.com/（无痕模式）
OpenAI Tokenizer：https://platform.openai.com/tokenizer

人类提问

你是由OpenAI开发的聊天机器人，请帮助用户回答问题。

摘要: -

消息列表: -

用户的提问是: 你好，我是好好，喜欢唱跳rap打篮球，你是谁？你喜欢什么呢？

AI 回复内容：

你好，好好！我是ChatGPT，一个由OpenAI训练的大型语言模型。很高兴认识你！我没有像人类一样的个人喜好，但我喜欢帮助人们解决问题、回答问题和分享知识。你提到喜欢唱跳rap和打篮球，感觉你生活非常丰富多彩！你有特别喜欢的歌手或者篮球队吗？

聊天消息列表：

Human: 你好，我是好好，喜欢唱跳rap打篮球，你是谁？你喜欢什么呢？

AI: 你好，好好！我是ChatGPT，一个由OpenAI训练的大型语言模型。很高兴认识你！我没有像人类一样的个人喜好，但我喜欢帮助人们解决问题、回答问题和分享知识。你提到喜欢唱跳rap和打篮球，感觉你生活非常丰富多彩！你有特别喜欢的歌手或者篮球队吗？

人类提问：

你是由OpenAI开发的聊天机器人，请帮助用户回答问题。

摘要: -

消息列表:

Human: 你好，我是好好，喜欢唱跳rap打篮球，你是谁？你喜欢什么呢？

用户的提问是: 你能用一段话快速解释下LLM是什么吗？

AI 回复内容：

大型语言模型（LLM）是一种通过大量文本数据训练的人工智能模型，能够理解和生成自然语言文本。它应用于写作辅助、语言翻译、对话系统和问答系统等自然语言处理任务，表现出高水平的语言理解和生成能力。

聊天消息列表：

Human: 你好，我是好好，喜欢唱跳rap打篮球，你是谁？你喜欢什么呢？

Human: 你能用一段话快速解释下LLM是什么吗？

AI: 大型语言模型（LLM）是一种通过大量文本数据训练的人工智能模型，能够理解和生成自然语言文本。它应用于写作辅助、语言翻译、对话系统和问答系统等自然语言处理任务，表现出高水平的语言理解和生成能力。

max_tokens 长度超过 300，触发总结，并删除超过长度的消息组(AI和Human)。

总结 Prompt

你是一个强大的聊天机器人，请根据用户提供的谈话内容，总结内容，并将其添加到先前提供的摘要中，返回一个新的摘要。

当前摘要: 人类会问人工智能对人工智能的看法。人工智能认为人工智能是一股向善的力量。

新的谈话内容：

Human: 为什么你认为人工智能是一股向善的力量？

AI: 因为人工智能将帮助人类充分发挥潜力。

新摘要: 人类会问人工智能对人工智能的看法。人工智能认为人工智能是一股向善的力量，因为它将帮助人类充分发挥潜力。

</example>

当前摘要: -

新的对话内容:

Human: 你好，我是好好，喜欢唱跳rap打篮球，你是谁？你喜欢什么呢？

摘要总结内容

好好介绍自己喜欢唱跳rap和打篮球，并问AI的喜好。AI自我介绍为ChatGPT，一个由OpenAI训练的大型语言模型，喜欢帮助人们解决问题、回答问题和分享知识。AI还问好好是否有特别喜欢的歌手或篮球队。

记忆：

摘要: 好好介绍自己喜欢唱跳rap和打篮球，并问AI的喜好。AI自我介绍为ChatGPT，一个由OpenAI训练的大型语言模型，喜欢帮助人们解决问题、回答问题和分享知识。AI还问好好是否有特别喜欢的歌手或篮球队。

消息列表:

Human: 你能用一段话快速解释下LLM是什么吗？

再次提问：

你是由OpenAI开发的聊天机器人，请帮助用户回答问题。

消息列表:

Human: 你能用一段话快速解释下LLM是什么吗？

用户的提问是: 我叫什么名字？

AI 回复

根据消息列表中的内容，你的名字是好好。