自进化编码智能体04——记忆治理是如何体现的,我如何人工介入进行记忆治理

记忆治理(Memory Governance)在这套平台里是外循环自动执行 + 三类落库证据的形式体现的,人工介入点目前有 4 个,但也有明显缺口。

一、治理机制怎么运转

每轮结束(条件为 single_loop / dual_loop)时 run_outer_loop 会:汇总 AI≠专家 的错误样本 → LLM 反思归因 → 抽取经验 → 入库前先过治理层backend/core/memory_governance.py)。

操作 触发条件 实际行为
ADD 与已有记忆相似度 < 0.88(MG_SIM_MERGE 真正新增一条
MERGE 相似度 ≥ 0.88,或示例文本 Hash 完全相同 不新增,合并到既有条目(规则拼接 [合并] ...,示例/错误 usage_count+1
UPDATE 人工修改规则内容时 写 UPDATE 流水
CONFLICT 改规则时同类下其它规则相似度 > 0.5 且差异 > 0.65(MG_CONFLICT_DIFF 拒绝写入 ,记 CONFLICT 等待专家仲裁(force=true 才强写)
DELETE usage_count=0 且 30 天未命中,且创建超 24 小时保护期 软删除(is_active=0

配套机制:touch_memory 每轮读取记忆时给全部活跃记忆 usage_count+1,防止刚学会的经验被误判为"死经验"清掉。

落库证据(论文分析用):

  • memory_operation:每条治理操作流水(op_type / target / payload / reason)
  • memory_governance_log:每轮决策日志(round_engine 写入,当前 decision 一律为 accept
  • experience_evolution_log:每轮 before/after 数量
  • 磁盘产物:RoundN/memory_update.json(含本轮 operations)、reflection_log.json

二、在界面哪里看

  1. 记忆库页MemoryManager):三类记忆列表 + 顶部「治理操作流水」统计(ADD=x / MERGE=y / DELETE=z)+ 每条的 usage_count
  2. 多轮运行页 → 每个 Round 的「本轮记忆治理操作」卡片:按 记忆类型 × 操作类型 统计次数
  3. 进化分析页:记忆库增长曲线(每轮 规则/示例/错误 数量)
  4. 系统设置 → 高级 :可直接改 4 个治理阈值,热更新无需重启

三、现在能做的人工介入

  1. 增删改记忆(记忆库页):新增规则/示例 → 自动走判重合并;删除 → 走 DELETE 软删,都会写治理流水
  2. 手动触发遗忘 :记忆库页「执行遗忘」按钮 → POST /api/memory/{task_id}/forget_idle
  3. 调治理阈值:设置页改相似度合并阈值、冲突差异阈值、遗忘阈值、遗忘天数
  4. 间接介入(专家反馈页):注入反馈 → 下一轮外循环反思归因 → 生成/修正记忆,这是论文里"人机协同"的主要入口
  5. 直接调 API 强制改规则PUT /api/memory/rule/{id}?content=...&force=true(前端暂无 UI)

四、当前缺口(我认为最该补的)

  • 没有冲突仲裁界面 :CONFLICT 只写进 memory_operation,前端看不到待仲裁列表,也没法一键「保留新 / 保留旧 / 强制覆盖」
  • 不能编辑已有规则/示例,只能删了重建
  • 治理流水只有聚合计数 ,看不到每条操作的 reason / payload 明细
  • 没有 reject 通道memory_governance_log.decision 恒为 accept,人工"否决某条自动沉淀"目前没落到数据模型

要不要我加一个**「记忆治理」控制台**?计划包含:按任务列出完整治理流水(时间/操作/目标/原因)、待仲裁 CONFLICT 列表 + 三种裁决动作、规则/示例在线编辑(含冲突检测)、手动 MERGE/DELETE 指定条目,并把 decision 改成 accept/reject/pending_expert 真实落库。确认后我就动手。

相关推荐
墨心@6 小时前
《AI Agent 入门》
agent·智能体·datawhale共学
美林数据Tempodata8 小时前
智能体技术应用专业(510219)怎么建:先定岗位能力链,再定课程与实训
大数据·人工智能·智能体·产教融合·职业教育
Xuantong_9010 小时前
WAIC2026 深度观察:玄同科技 × 润建股份,共建中国东盟 AI 跨境 Token 产业生态,开启数字出海新范式
人工智能·ai·智能体
SpiderCodeJ1 天前
【UE5】- UE MCP :在UE5.8编辑器中内置链接Codex
ue5·codex·智能体·mcp
ZGi.ai2 天前
不同请求走不同流程,ZGI Workflow 怎么配?
工作流·智能体·变量管理·zgi·条件分支
澳鹏Appen2 天前
AppenTalk | 当AI推理不再只是模型的事:Dan Roth谈智能体的真正边界
人工智能·大语言模型·智能体·大模型推理
像风一样自由20202 天前
29.Redis在大模型应用中有哪些用途缓存会话与限流
数据库·人工智能·redis·缓存·大模型·milvus·智能体
长谷深风1113 天前
AI自动化中的关键闸门:何时必须人工审批?
大数据·人工智能·ai·自动化·ai agent·智能体·hitl
thesky1234563 天前
智能体面试准备(九十三):智能体持续评测与 EvalOps 工程——评测即代码/CI集成/回归门禁/数据集版本化
智能体·回归门禁·持续评测·evalops·评测即代码·ci集成·数据集版本化