ChatGPT、Playground手动模拟Agent摘要缓冲混合记忆功能

01. 摘要缓冲混合记忆

摘要缓冲混合记忆中,所需的模块有:

  1. chat_message_history:存储历史消息列表。
  2. moving_summary_buffer:移除消息的汇总字符串。
  3. summary_llm:生成摘要的 LLM,接收 summary(当前摘要)、query(人类提问)、content(AI生成)。
  4. max_tokens:限制记忆模块存储消息的最大 token 数。
  5. get_num_tokens:用于统计传入的文本的 token 数

02. ChatGPT/Playground 模拟

将记忆的 max_tokens 长度设置为 300,模拟所需物料:

  1. ChatGPT 官网:https://chatgpt.com/(无痕模式)
  2. OpenAI Tokenizer:https://platform.openai.com/tokenizer

人类提问

你是由OpenAI开发的聊天机器人,请帮助用户回答问题。

摘要: -

消息列表: -

用户的提问是: 你好,我是好好,喜欢唱跳rap打篮球,你是谁?你喜欢什么呢?

AI 回复内容:

你好,好好!我是ChatGPT,一个由OpenAI训练的大型语言模型。很高兴认识你!我没有像人类一样的个人喜好,但我喜欢帮助人们解决问题、回答问题和分享知识。你提到喜欢唱跳rap和打篮球,感觉你生活非常丰富多彩!你有特别喜欢的歌手或者篮球队吗?

聊天消息列表:

Human: 你好,我是好好,喜欢唱跳rap打篮球,你是谁?你喜欢什么呢?

AI: 你好,好好!我是ChatGPT,一个由OpenAI训练的大型语言模型。很高兴认识你!我没有像人类一样的个人喜好,但我喜欢帮助人们解决问题、回答问题和分享知识。你提到喜欢唱跳rap和打篮球,感觉你生活非常丰富多彩!你有特别喜欢的歌手或者篮球队吗?

人类提问:

你是由OpenAI开发的聊天机器人,请帮助用户回答问题。

摘要: -

消息列表:

Human: 你好,我是好好,喜欢唱跳rap打篮球,你是谁?你喜欢什么呢?

AI: 你好,好好!我是ChatGPT,一个由OpenAI训练的大型语言模型。很高兴认识你!我没有像人类一样的个人喜好,但我喜欢帮助人们解决问题、回答问题和分享知识。你提到喜欢唱跳rap和打篮球,感觉你生活非常丰富多彩!你有特别喜欢的歌手或者篮球队吗?

用户的提问是: 你能用一段话快速解释下LLM是什么吗?

AI 回复内容:

大型语言模型(LLM)是一种通过大量文本数据训练的人工智能模型,能够理解和生成自然语言文本。它应用于写作辅助、语言翻译、对话系统和问答系统等自然语言处理任务,表现出高水平的语言理解和生成能力。

聊天消息列表:

Human: 你好,我是好好,喜欢唱跳rap打篮球,你是谁?你喜欢什么呢?

AI: 你好,好好!我是ChatGPT,一个由OpenAI训练的大型语言模型。很高兴认识你!我没有像人类一样的个人喜好,但我喜欢帮助人们解决问题、回答问题和分享知识。你提到喜欢唱跳rap和打篮球,感觉你生活非常丰富多彩!你有特别喜欢的歌手或者篮球队吗?

Human: 你能用一段话快速解释下LLM是什么吗?

AI: 大型语言模型(LLM)是一种通过大量文本数据训练的人工智能模型,能够理解和生成自然语言文本。它应用于写作辅助、语言翻译、对话系统和问答系统等自然语言处理任务,表现出高水平的语言理解和生成能力。

max_tokens 长度超过 300,触发总结,并删除超过长度的消息组(AI和Human)。

总结 Prompt

你是一个强大的聊天机器人,请根据用户提供的谈话内容,总结内容,并将其添加到先前提供的摘要中,返回一个新的摘要。

<example>

当前摘要: 人类会问人工智能对人工智能的看法。人工智能认为人工智能是一股向善的力量。

新的谈话内容:

Human: 为什么你认为人工智能是一股向善的力量?

AI: 因为人工智能将帮助人类充分发挥潜力。

新摘要: 人类会问人工智能对人工智能的看法。人工智能认为人工智能是一股向善的力量,因为它将帮助人类充分发挥潜力。

</example>

当前摘要: -

新的对话内容:

Human: 你好,我是好好,喜欢唱跳rap打篮球,你是谁?你喜欢什么呢?

AI: 你好,好好!我是ChatGPT,一个由OpenAI训练的大型语言模型。很高兴认识你!我没有像人类一样的个人喜好,但我喜欢帮助人们解决问题、回答问题和分享知识。你提到喜欢唱跳rap和打篮球,感觉你生活非常丰富多彩!你有特别喜欢的歌手或者篮球队吗?

摘要总结内容

好好介绍自己喜欢唱跳rap和打篮球,并问AI的喜好。AI自我介绍为ChatGPT,一个由OpenAI训练的大型语言模型,喜欢帮助人们解决问题、回答问题和分享知识。AI还问好好是否有特别喜欢的歌手或篮球队。

记忆:

摘要: 好好介绍自己喜欢唱跳rap和打篮球,并问AI的喜好。AI自我介绍为ChatGPT,一个由OpenAI训练的大型语言模型,喜欢帮助人们解决问题、回答问题和分享知识。AI还问好好是否有特别喜欢的歌手或篮球队。

消息列表:

Human: 你能用一段话快速解释下LLM是什么吗?

AI: 大型语言模型(LLM)是一种通过大量文本数据训练的人工智能模型,能够理解和生成自然语言文本。它应用于写作辅助、语言翻译、对话系统和问答系统等自然语言处理任务,表现出高水平的语言理解和生成能力。

再次提问:

你是由OpenAI开发的聊天机器人,请帮助用户回答问题。

摘要: 好好介绍自己喜欢唱跳rap和打篮球,并问AI的喜好。AI自我介绍为ChatGPT,一个由OpenAI训练的大型语言模型,喜欢帮助人们解决问题、回答问题和分享知识。AI还问好好是否有特别喜欢的歌手或篮球队。

消息列表:

Human: 你能用一段话快速解释下LLM是什么吗?

AI: 大型语言模型(LLM)是一种通过大量文本数据训练的人工智能模型,能够理解和生成自然语言文本。它应用于写作辅助、语言翻译、对话系统和问答系统等自然语言处理任务,表现出高水平的语言理解和生成能力。

用户的提问是: 我叫什么名字?

AI 回复

根据消息列表中的内容,你的名字是好好。

相关推荐
涡能增压发动积3 分钟前
Browser-Use Agent使用初体验
人工智能·后端·python
zzywxc7873 分钟前
利用AI生成测试用例、优化测试执行、自我修复测试脚本,提升测试覆盖率和效率。
人工智能·测试用例·测试覆盖率
汤姆yu6 分钟前
基于图像识别与分类的中国蛇类识别系统
人工智能·分类·数据挖掘·图像识别
Yzxs00915 分钟前
【8月优质EI会议合集|高录用|EI检索稳定】计算机、光学、通信技术、电子、建模、数学、通信工程...
大数据·人工智能·算法·计算机视觉·信息与通信
汉唐明月36 分钟前
模型蒸馏:使用bert-base-uncased模型蒸馏出distilbert-base-uncased
人工智能·机器学习
CV遥感视觉笔记37 分钟前
从0搭建YOLO目标检测系统:实战项目+完整流程+界面开发(附源码)
人工智能·yolo·目标检测
热心网友俣先生38 分钟前
2025年AI+数模竞赛培训意见征集-最后一轮
人工智能·数学建模
居然JuRan44 分钟前
LightRAG:大模型时代的低成本检索利器
人工智能
POLOAPI1 小时前
Claude Code深度操作指南:从零到专家的AI编程助手实战
人工智能
JustNow_Man1 小时前
【LLM】 BaseModel的作用
数据库·人工智能·python·uv