自进化编码智能体04——记忆治理是如何体现的,我如何人工介入进行记忆治理

记忆治理(Memory Governance)在这套平台里是外循环自动执行 + 三类落库证据的形式体现的,人工介入点目前有 4 个,但也有明显缺口。

一、治理机制怎么运转

每轮结束(条件为 single_loop / dual_loop)时 run_outer_loop 会:汇总 AI≠专家 的错误样本 → LLM 反思归因 → 抽取经验 → 入库前先过治理层 (backend/core/memory_governance.py)。

操作 触发条件 实际行为
ADD 与已有记忆相似度 < 0.88(MG_SIM_MERGE) 真正新增一条
MERGE 相似度 ≥ 0.88,或示例文本 Hash 完全相同 不新增,合并到既有条目(规则拼接 [合并] ...,示例/错误 usage_count+1)
UPDATE 人工修改规则内容时 写 UPDATE 流水
CONFLICT 改规则时同类下其它规则相似度 > 0.5 且差异 > 0.65(MG_CONFLICT_DIFF) 拒绝写入 ,记 CONFLICT 等待专家仲裁(force=true 才强写)
DELETE usage_count=0 且 30 天未命中,且创建超 24 小时保护期 软删除(is_active=0)

配套机制:touch_memory 每轮读取记忆时给全部活跃记忆 usage_count+1,防止刚学会的经验被误判为"死经验"清掉。

落库证据(论文分析用):

  • memory_operation:每条治理操作流水(op_type / target / payload / reason)
  • memory_governance_log:每轮决策日志(round_engine 写入,当前 decision 一律为 accept)
  • experience_evolution_log:每轮 before/after 数量
  • 磁盘产物:RoundN/memory_update.json(含本轮 operations)、reflection_log.json

二、在界面哪里看

  1. 记忆库页 (MemoryManager):三类记忆列表 + 顶部「治理操作流水」统计(ADD=x / MERGE=y / DELETE=z)+ 每条的 usage_count
  2. 多轮运行页 → 每个 Round 的「本轮记忆治理操作」卡片:按 记忆类型 × 操作类型 统计次数
  3. 进化分析页:记忆库增长曲线(每轮 规则/示例/错误 数量)
  4. 系统设置 → 高级 :可直接改 4 个治理阈值,热更新无需重启

三、现在能做的人工介入

  1. 增删改记忆(记忆库页):新增规则/示例 → 自动走判重合并;删除 → 走 DELETE 软删,都会写治理流水
  2. 手动触发遗忘 :记忆库页「执行遗忘」按钮 → POST /api/memory/{task_id}/forget_idle
  3. 调治理阈值:设置页改相似度合并阈值、冲突差异阈值、遗忘阈值、遗忘天数
  4. 间接介入(专家反馈页):注入反馈 → 下一轮外循环反思归因 → 生成/修正记忆,这是论文里"人机协同"的主要入口
  5. 直接调 API 强制改规则 :PUT /api/memory/rule/{id}?content=...&force=true(前端暂无 UI)

四、当前缺口(我认为最该补的)

  • 没有冲突仲裁界面 :CONFLICT 只写进 memory_operation,前端看不到待仲裁列表,也没法一键「保留新 / 保留旧 / 强制覆盖」
  • 不能编辑已有规则/示例,只能删了重建
  • 治理流水只有聚合计数 ,看不到每条操作的 reason / payload 明细
  • 没有 reject 通道 :memory_governance_log.decision 恒为 accept,人工"否决某条自动沉淀"目前没落到数据模型

要不要我加一个**「记忆治理」控制台**?计划包含:按任务列出完整治理流水(时间/操作/目标/原因)、待仲裁 CONFLICT 列表 + 三种裁决动作、规则/示例在线编辑(含冲突检测)、手动 MERGE/DELETE 指定条目,并把 decision 改成 accept/reject/pending_expert 真实落库。确认后我就动手。

相关推荐
骑着蜗牛撵大象3279 小时前
让 Codex 值夜班:把告警排查与巡检接成可回滚的自动化链路
android·java·运维·ai·自动化·codex·智能体
xianghongtao011614 小时前
DeepSeek成名之后的路
人工智能·智能体·deepseek·deepseek融资·端脑科技·商业新闻
AAwangzong14 小时前
企业级AI智能体厂商对比:模型服务、Agent平台与流程自动化如何选择?
人工智能·经验分享·rpa·智能体
一马平川的大草原1 天前
企业语义本体(Ontology)构建方法论及智能体应用的保障机制
人工智能·智能体·语义本体
一级新生2 天前
多智能体协作:常用协作模式详解
人工智能·状态模式·agent·多智能体·智能体
java_logo4 天前
Docker 部署 MaxKB:轻松搭建企业级智能体平台
运维·docker·容器·知识库·智能体·maxkb·轩辕镜像
飞猫的边缘AI4 天前
芯片设计会不会全自动化?什么时候到来?
人工智能·ic设计·芯片设计·智能体·边缘ai·ai岗位·ai职业前景
Data_AI4Science5 天前
AI 时代,人更重要了
人工智能·ai·智能体·生物医药·电子实验记录本·ai取代人
围炉聊科技5 天前
AI原生SDLC实践笔记
智能体·sdlc·工程实践