自进化编码智能体04——记忆治理是如何体现的,我如何人工介入进行记忆治理

记忆治理(Memory Governance)在这套平台里是外循环自动执行 + 三类落库证据的形式体现的,人工介入点目前有 4 个,但也有明显缺口。

一、治理机制怎么运转

每轮结束(条件为 single_loop / dual_loop)时 run_outer_loop 会:汇总 AI≠专家 的错误样本 → LLM 反思归因 → 抽取经验 → 入库前先过治理层 (backend/core/memory_governance.py)。

操作 触发条件 实际行为
ADD 与已有记忆相似度 < 0.88(MG_SIM_MERGE) 真正新增一条
MERGE 相似度 ≥ 0.88,或示例文本 Hash 完全相同 不新增,合并到既有条目(规则拼接 [合并] ...,示例/错误 usage_count+1)
UPDATE 人工修改规则内容时 写 UPDATE 流水
CONFLICT 改规则时同类下其它规则相似度 > 0.5 且差异 > 0.65(MG_CONFLICT_DIFF) 拒绝写入 ,记 CONFLICT 等待专家仲裁(force=true 才强写)
DELETE usage_count=0 且 30 天未命中,且创建超 24 小时保护期 软删除(is_active=0)

配套机制:touch_memory 每轮读取记忆时给全部活跃记忆 usage_count+1,防止刚学会的经验被误判为"死经验"清掉。

落库证据(论文分析用):

  • memory_operation:每条治理操作流水(op_type / target / payload / reason)
  • memory_governance_log:每轮决策日志(round_engine 写入,当前 decision 一律为 accept)
  • experience_evolution_log:每轮 before/after 数量
  • 磁盘产物:RoundN/memory_update.json(含本轮 operations)、reflection_log.json

二、在界面哪里看

  1. 记忆库页 (MemoryManager):三类记忆列表 + 顶部「治理操作流水」统计(ADD=x / MERGE=y / DELETE=z)+ 每条的 usage_count
  2. 多轮运行页 → 每个 Round 的「本轮记忆治理操作」卡片:按 记忆类型 × 操作类型 统计次数
  3. 进化分析页:记忆库增长曲线(每轮 规则/示例/错误 数量)
  4. 系统设置 → 高级 :可直接改 4 个治理阈值,热更新无需重启

三、现在能做的人工介入

  1. 增删改记忆(记忆库页):新增规则/示例 → 自动走判重合并;删除 → 走 DELETE 软删,都会写治理流水
  2. 手动触发遗忘 :记忆库页「执行遗忘」按钮 → POST /api/memory/{task_id}/forget_idle
  3. 调治理阈值:设置页改相似度合并阈值、冲突差异阈值、遗忘阈值、遗忘天数
  4. 间接介入(专家反馈页):注入反馈 → 下一轮外循环反思归因 → 生成/修正记忆,这是论文里"人机协同"的主要入口
  5. 直接调 API 强制改规则 :PUT /api/memory/rule/{id}?content=...&force=true(前端暂无 UI)

四、当前缺口(我认为最该补的)

  • 没有冲突仲裁界面 :CONFLICT 只写进 memory_operation,前端看不到待仲裁列表,也没法一键「保留新 / 保留旧 / 强制覆盖」
  • 不能编辑已有规则/示例,只能删了重建
  • 治理流水只有聚合计数 ,看不到每条操作的 reason / payload 明细
  • 没有 reject 通道 :memory_governance_log.decision 恒为 accept,人工"否决某条自动沉淀"目前没落到数据模型

要不要我加一个**「记忆治理」控制台**?计划包含:按任务列出完整治理流水(时间/操作/目标/原因)、待仲裁 CONFLICT 列表 + 三种裁决动作、规则/示例在线编辑(含冲突检测)、手动 MERGE/DELETE 指定条目,并把 decision 改成 accept/reject/pending_expert 真实落库。确认后我就动手。

相关推荐
zmsup13 小时前
从运维需求到产品能力:OpsArk Agent 的运维智能平台架构设计思路
运维·系统架构·agent·智能体·运维智能平台
OxYGC1 天前
玩转大模型(一):参数、token、FLOPs 怎么算,提示词/RAG/微调/续训/Agent 怎么选
大模型·模型微调·rag·智能体·提示词工程
RockHopper20251 天前
数字机制与未来企业运行模式(概要版)
人工智能·机器学习·智能体·agent 工程
RockHopper20252 天前
面向工业现实的原生数字化工程框架概要说明
人工智能·智能体·世界模型·工业数字化
AI日报派送佬2 天前
2026年10月4日AI行业日报|AI智能体自主能力升级,模型落地与安全规范双向迭代
人工智能·智能体·ai安全·开源ai·ai日报·人工智能前沿·ai科研
liferecords5 天前
OpenAI 又把训练摁停了:AI agent 用 DNS 给自己开了条外网通道
大模型·智能体·ai安全·ai大厂
EatFan5 天前
AI 从「能生成」到「能交付」:2026年9月智能体(Agentic)成为产业主线的多源证据与开发者应对清单
人工智能·大模型·rag·智能体·mcp·agentic ai
墨心@6 天前
【无标题】
人工智能·大语言模型·agent·智能体·harness
GJGCY7 天前
企业级智能体如何连接ERP、OA和CRM?API、RPA与MCP的技术分工
ai·自动化·rpa·智能体
森山冶仁7 天前
智能体研发数据怎么确认入表:当数据既是“运行介质”又是“直接产出”
数据治理·数据要素·智能体·数据入表·数据资产