介绍一下BEAM 数据和 LoCoMo 数据:评估大模型记忆能力的数据集

你提到的 BEAM 和 LoCoMo 都是用于评估 AI 模型能力的数据集,但它们的侧重点截然不同。LoCoMo 专注于评估大语言模型在超长期多轮对话 中的记忆和推理能力;而 BEAM 这个名字则对应了多个不同领域的数据集,其中在 AI 领域最相关的是一个长上下文记忆基准。

🧠 LoCoMo:评估超长期对话记忆

LoCoMo (Long-Term Conversational Memory) 是由 Snap Research 等机构在 ACL 2024 论文中提出的评估基准,旨在衡量 LLM 智能体在极长期对话中的记忆表现。

  • 核心数据 :基准包含 10 段 高质量、人工标注的对话。每段对话平均长达 600 轮 、16K tokens ,跨越最多 32 个会话(session)。对话模拟了两个角色在漫长时间里关系的演变。
  • 任务与标注 :每段对话都针对问答(QA) 和事件摘要(Event Summarization) 任务进行了标注。问答任务进一步细分为四类,以全面评估模型能力:
    • 单跳(Single-hop):答案在单个会话中。
    • 多跳(Multi-hop):需要跨会话综合信息。
    • 时序(Temporal):需要时间感知推理。
    • 开放域(Open-domain):结合对话上下文与外部常识。
  • 数据格式与访问 :数据集以 JSON 格式提供,包含对话、会话摘要、事件标注和问答对。项目开源在 GitHub,可通过 locomo10.json 文件获取。
  • 注意事项:LoCoMo 数据集体量较小(10段对话),存在过拟合风险。此外,为控制评估成本,公开发布的是从最初 50 段对话中筛选出的最长、标注质量最高的子集。

🎯 BEAM:一个多义的数据集名称

"BEAM"在不同领域指代不同的数据集。在 AI 大模型语境下,它主要指一个长上下文记忆基准。此外,它也可能指代其他领域(如工程、医疗)的数据集,需注意区分。

主要含义:长上下文记忆基准 (BEAM Benchmark)

这是与 LoCoMo 最具可比性的数据集,全称 "Beyond a Million Tokens",专门用于评估长上下文 LLM 的记忆系统。

  • 规模与构成 :BEAM 包含 100 段 合成长对话,长度从 128K 到 10M tokens 不等,并配有 2,000 个经过验证的探测问题。
  • 评估能力 :其问题设计旨在测试 10 种不同的记忆能力,而不仅仅是简单的信息检索。
  • 数据特性:对话完全由合成生成,但构建时注重真实结构(如先规划对话弧线),且人类评审对其连贯性、真实性和复杂度的评分较高。
  • 数据格式:数据以 Parquet 格式提供,分为 100K、500K 等不同 token 规模的版本。
其他领域的 BEAM 数据集

为避免混淆,以下列举了在其他领域同样使用"BEAM"名称的数据集:

  • 工程与物理领域 :指代与梁(Beam) 的力学分析、裂纹检测或振动信号相关的数据集。例如,用于训练神经网络检测混凝土梁裂缝的图像数据集,或合成梁力学问答数据集。
  • 医疗影像领域 :指 BEAM: Boosting Fundus Image Enhancement ,一个用于眼底图像增强的数据集。
  • 情感识别领域 :有研究在 BEAM 数据集上取得了 90.2% 的准确率,用于识别 7 种基本情感。
  • 数据工程领域 :在 Hugging Face 生态中,"Beam Datasets"有时指使用 Apache Beam 管道进行预处理的大规模数据集,如 Wikipedia 数据集。

💎 总结与对比

为了帮你更清晰地理解,这里将两个核心的"记忆基准"数据集进行对比:

特性 LoCoMo BEAM (Beyond a Million Tokens)
核心目标 评估超长期对话中的记忆与推理 评估极长上下文(百万级) 的记忆系统
数据规模 10 段对话,每段约 600 轮 / 16K tokens 100 段对话,长度 128K - 10M tokens
问题数量 1,536 个问题(金标子集) 2,000 个探测问题
评估能力 单跳、多跳、时序、开放域推理 10 种不同的记忆能力
数据来源 人工标注的真实对话 合成生成,但结构真实
数据格式 JSON Parquet

总的来说,LoCoMo 更侧重于在相对"人性化"的对话长度(万级 token)下,对记忆的深度推理 能力进行精细评估;而 BEAM 则剑指百万级 token 的极限场景,考验模型在超长文本中维持记忆的广度与稳定性。

相关推荐
AllData公司负责人14 小时前
AllData 可定义数据中台完成信创适配|银河麒麟 + 海光X86 CPU / 华为鲲鹏ARM CPU+ OceanBase / 人大金仓国产化环境部署落地
大数据·arm开发·数据库·人工智能·oceanbase·kingbase
Raas10014 小时前
AI网关如何接入?MAI Gateway部署实操教程
java·开发语言·人工智能·gateway·ai网关·mai gateway·企业级产品
Elastic 中国社区官方博客14 小时前
AgentHack Shanghai|基于阿里云AI搜索 Elasticsearch x Qoder 构建AI Agent应用
大数据·人工智能·elasticsearch·搜索引擎·阿里云·云计算·全文检索
一只废狗狗狗狗狗狗狗狗狗14 小时前
生成式对抗网络GAN(Generative Adversarial Network)
人工智能·神经网络·生成对抗网络
ZZHow102414 小时前
神经网络与深度学习笔记_Day1
人工智能·pytorch·笔记·python·深度学习·神经网络·机器学习
天天代码码天天14 小时前
拍了一大堆照片,哪些糊了?我用 C# 做了一个离线筛选助手
人工智能
DolphinDB智臾科技14 小时前
数智筑基·算启未来 ——2026 AI+金融基础设施前沿创新对话 共探金融智能化发展新路径
人工智能·金融
在所不辞兄14 小时前
【人工智能驱动的电催化研究-01】人工智能是什么?AI、机器学习、深度学习和神经网络之间有什么区别?
人工智能·深度学习·神经网络·机器学习·有限元仿真·电化学·电催化
xsd2024111814 小时前
VLX-VR:帮你从视频里找出 SOP 的隐藏风向
人工智能
loulanyue_15 小时前
AI Agent记忆从不是向量库:Oracle拆解读写分离与记忆晋升门,终结无脑存聊天的伪智能——读Wojtek Pluta演讲
数据库·人工智能·oracle