自进化编码智能体04——记忆治理是如何体现的,我如何人工介入进行记忆治理

记忆治理(Memory Governance)在这套平台里是外循环自动执行 + 三类落库证据的形式体现的,人工介入点目前有 4 个,但也有明显缺口。

一、治理机制怎么运转

每轮结束(条件为 single_loop / dual_loop)时 run_outer_loop 会:汇总 AI≠专家 的错误样本 → LLM 反思归因 → 抽取经验 → 入库前先过治理层 (backend/core/memory_governance.py)。

操作 触发条件 实际行为
ADD 与已有记忆相似度 < 0.88(MG_SIM_MERGE) 真正新增一条
MERGE 相似度 ≥ 0.88,或示例文本 Hash 完全相同 不新增,合并到既有条目(规则拼接 [合并] ...,示例/错误 usage_count+1)
UPDATE 人工修改规则内容时 写 UPDATE 流水
CONFLICT 改规则时同类下其它规则相似度 > 0.5 且差异 > 0.65(MG_CONFLICT_DIFF) 拒绝写入 ,记 CONFLICT 等待专家仲裁(force=true 才强写)
DELETE usage_count=0 且 30 天未命中,且创建超 24 小时保护期 软删除(is_active=0)

配套机制:touch_memory 每轮读取记忆时给全部活跃记忆 usage_count+1,防止刚学会的经验被误判为"死经验"清掉。

落库证据(论文分析用):

  • memory_operation:每条治理操作流水(op_type / target / payload / reason)
  • memory_governance_log:每轮决策日志(round_engine 写入,当前 decision 一律为 accept)
  • experience_evolution_log:每轮 before/after 数量
  • 磁盘产物:RoundN/memory_update.json(含本轮 operations)、reflection_log.json

二、在界面哪里看

  1. 记忆库页 (MemoryManager):三类记忆列表 + 顶部「治理操作流水」统计(ADD=x / MERGE=y / DELETE=z)+ 每条的 usage_count
  2. 多轮运行页 → 每个 Round 的「本轮记忆治理操作」卡片:按 记忆类型 × 操作类型 统计次数
  3. 进化分析页:记忆库增长曲线(每轮 规则/示例/错误 数量)
  4. 系统设置 → 高级 :可直接改 4 个治理阈值,热更新无需重启

三、现在能做的人工介入

  1. 增删改记忆(记忆库页):新增规则/示例 → 自动走判重合并;删除 → 走 DELETE 软删,都会写治理流水
  2. 手动触发遗忘 :记忆库页「执行遗忘」按钮 → POST /api/memory/{task_id}/forget_idle
  3. 调治理阈值:设置页改相似度合并阈值、冲突差异阈值、遗忘阈值、遗忘天数
  4. 间接介入(专家反馈页):注入反馈 → 下一轮外循环反思归因 → 生成/修正记忆,这是论文里"人机协同"的主要入口
  5. 直接调 API 强制改规则 :PUT /api/memory/rule/{id}?content=...&force=true(前端暂无 UI)

四、当前缺口(我认为最该补的)

  • 没有冲突仲裁界面 :CONFLICT 只写进 memory_operation,前端看不到待仲裁列表,也没法一键「保留新 / 保留旧 / 强制覆盖」
  • 不能编辑已有规则/示例,只能删了重建
  • 治理流水只有聚合计数 ,看不到每条操作的 reason / payload 明细
  • 没有 reject 通道 :memory_governance_log.decision 恒为 accept,人工"否决某条自动沉淀"目前没落到数据模型

要不要我加一个**「记忆治理」控制台**?计划包含:按任务列出完整治理流水(时间/操作/目标/原因)、待仲裁 CONFLICT 列表 + 三种裁决动作、规则/示例在线编辑(含冲突检测)、手动 MERGE/DELETE 指定条目,并把 decision 改成 accept/reject/pending_expert 真实落库。确认后我就动手。

相关推荐
小小-猿2 天前
从 gpt-6-luna 到第一个 Nexent 智能体:配置、调试与发布
gpt·大模型·智能体·ai智能体·nexent
科研小刘带你玩学术2 天前
【科研快讯】OpenAI推出ChatGPT Wallet:AI Agent不再只会推荐商品,还能替用户完成支付
人工智能·数字经济·智能体·科技前沿·aiagent·ai支付·智能商务
指尖时光.2 天前
【Agent】个人 Agent 工作台建设指南
agent·知识库·智能体·skill·agent开发
贾伟康5 天前
HarmonyOS API 26 HMAF Skill 可解释任务计划与失败回退
harmonyos·arkts·智能体·skill·hmaf
贾伟康5 天前
HarmonyOS API 26 HMAF 2.0 意图解析的可解释动作图
harmonyos·arkts·智能体·a2a·hmaf
贾伟康7 天前
HarmonyOS API 26 HMAF Skill 多 Skill 冲突仲裁与可恢复执行
harmonyos·arkts·智能体·skill·hmaf
OxYGC7 天前
智能体项目复盘 · 智能客服篇:对话栈、Flow 与策略集成器——LLM 是怎么嵌进传统多轮对话架构的
对话系统·智能客服·rag·智能体
正在走向自律8 天前
AI Agent 落地这一年:从“能跑起来”到“敢放出去”
大数据·人工智能·ai agent·智能体·mcp·a2a
积流成海9 天前
Agent演化史(九):多智能体的暗面,当一次 prompt 注入可以横向移动
prompt·agent·智能体·大模型应用
像风一样自由202012 天前
4.DockerCompose是什么为什么算法服务需要多个容器
人工智能·rag·智能体