一个项目带你入门AI应用开发06

第 6 课:让 Agent 记住对话

6.1 你的目标

多轮对话中,AI 能记住前面说了什么:

复制代码
You: 查一下订单 ORD-001
AI: 您的订单 ORD-001(智能蓝牙耳机 Pro)已发货

You: 这个保修多久?     ← 用户期望 AI 知道说的是"耳机"
AI: 智能蓝牙耳机 Pro 提供 12 个月质保。  ← 没忘!

6.2 问题和解决方案

为什么 AI 会忘?

每次请求的 state["messages"] 都是空列表。Agent 没有上下文,每次都是"第一次见到用户"。

解法:把历史消息传进去

python 复制代码
# main.py 中
sessions: dict[str, list] = defaultdict(list)
conv_id = req.conversation_id or str(uuid.uuid4())
history = sessions[conv_id]

initial_state = {
    "user_message": req.message,
    "messages": history,         # ← 把历史传进去!
    ...
}

result = agent_graph.invoke(initial_state)

# 保存本轮对话
history.append({"role": "user", "content": req.message})
history.append({"role": "assistant", "content": result["final_response"]})

为什么不能存所有历史?

聊 50 轮后,history 会有 100 条消息,几千个 token。LLM 的上下文窗口是有限的。

解法:滑动窗口

python 复制代码
MAX_HISTORY = 10  # 最多保留 10 轮

def save_history(conv_id, user_msg, reply):
    history = sessions[conv_id]
    history.append({"role": "user", "content": user_msg})
    history.append({"role": "assistant", "content": reply})
    # 只保留最近 10 轮
    if len(history) > MAX_HISTORY * 2:
        sessions[conv_id] = history[-MAX_HISTORY * 2:]

为什么是 10 轮? 这不是一个固定的答案。取决于你的业务场景:

  • 客服对话通常 3-5 轮解决问题,10 轮足够
  • 如果是长周期跟进(如售后多次沟通),可能需要更多

6.3 Agents 怎么使用历史

之前每个 Agent 的 LLM 调用只传 user_message,现在加上历史:

python 复制代码
def tool_node(state):
    history = state.get("messages", [])      # ← 拿到历史
    msg = call_llm(
        messages=[
            {"role": "system", "content": TOOL_PROMPT},
            *history,                        # ← 展开到 prompt 中
            {"role": "user", "content": state["user_message"]},
        ],
        tools=TOOLS,
    )

Router Agent 看到历史后,能理解"这个"指的是什么。Tool Agent 看到历史后,知道用户之前已经提供过订单号。

6.4 内存存储的局限

当前会话存在 Python 进程的内存里。服务重启后所有会话丢失。

生产环境应该用 Redis 或数据库存储会话:

python 复制代码
# 当前(内存)
sessions: dict[str, list] = defaultdict(list)

# 生产(Redis)
import redis
r = redis.Redis()
history = json.loads(r.get(f"session:{conv_id}") or "[]")

但第 6 课的重点是理解"有状态"这个模式,而不是具体的存储方案。

6.5 三种记忆策略对比

方案 实现复杂度 信息保留 Token消耗 适用场景
滑动窗口 低 丢失早期信息 可控 短对话(<20轮)
摘要压缩 中 保留核心信息 低 中等长度对话
向量检索记忆 高 几乎不丢失 中 超长对话、知识型对话

本课使用滑动窗口,因为简单且适配电商客服的场景。

本课知识点

概念 你做了什么 为什么
有状态 conversation_id + 历史存储 LLM 无状态,上下文全靠 messages 传
滑动窗口 保留最近 N 轮 Token 消耗有上限,不会撑爆窗口
历史注入 history 展开到 messages 里 每个 Agent 都能参考上文

课后作业

  1. 把 MAX_HISTORY 改成 2,看第 3 轮还能不能记住第 1 轮的信息
  2. 给 sessions 加一个过期时间(比如 30 分钟不活跃就删除)

面试可能会问

"Agent 系统的会话管理和传统 Web 应用的 Session 有什么不同?"

Web Session 存的是用户登录状态。Agent 存的是对话历史(messages 数组),而且影响 LLM 的推理质量。管理不好 Agent 就会"失忆"。

相关推荐
如夏倾城33 分钟前
VRRP(虚拟路由器冗余协议Virtual Router Redundancy Protocol)
网络·python·网络协议·安全·智能路由器·负载均衡·信息与通信
IvanCodes1 小时前
LangChain(04):Runnable 与 LCEL 的执行与组合机制
python·langchain·agent
特创数字科技1 小时前
纯本地离线运行的文档脱敏工具(技术分享)
前端·驱动开发·python
东莞市云毅网络有限公司3 小时前
用 Playwright 搭一套问答平台引用监测的最小骨架
python·数据清洗·rag·企业知识库·文档解析
Thanks_ks3 小时前
【第 010 讲】全面掌握 Python 变量与常量:变量的定义与赋值 | 标识符与命名规范 | 变量的底层机制 | 常量与魔术数字
python·内存·变量·标识符·常量·赋值·命名规范
飞Link3 小时前
灵巧手是什么?从机械结构、驱动方式到控制原理,认识机器人的精细操作能力
人工智能·python·机器人
用户0332126663674 小时前
使用 Python 快速查找并高亮 PDF 中的文本
python
用户019027581614 小时前
用 pandas-ta 给 A 股算技术指标(配合 AlphaFeed)
python
2601_967980115 小时前
python+appium自动化测试如何控制App的启动和退出
android·自动化测试·python·appium·设备调试
威哥爱编程6 小时前
模拟面试智能体开发实战 12:每篇都能跑不等于接起来能跑,端到端联调收官把十一块拼图合成一个能用的智能体
python·agent·harmonyos