Agent学习——并行化模式

并行化核心:在任务处理过程中的独立模块,并行执行,这在调用API使用或者数据库时,对这种多少独立的请求的任务处理十分有效,能显著降低总体等待的时间。

并行化实现的条件:要求支持异步执行、多线程或多进程的框架(LangChain(通过|运算符设计带有并发分支的链或图结构来实现并发操作)/LangGraph(利用图结构,使得其在状态转换中执行多个节点,从而实现多并发操作)/Google ADK(其支持多个智能体并发运行)等框架均支持并行执行机制)

总之,并发操作使得智能体能在同样的时间内,执行更多的任务(独立查询、独立计算、调用API/工具、多个子智能体的操控、多模态数据的处理,多数据源处理),使得智能体的效率和响应速度提升
LangChain并行处理的逻辑模版:

python 复制代码
# 最小化版本
parallel_tasks = RunnableParallel(任务1, 任务2, 任务3)  # 1. 定义并行任务
synthesis = "基于{结果1}{结果2}{结果3}生成回答"           # 2. 定义综合模板
chain = parallel_tasks | synthesis | llm | parser        # 3. 连接管道
result = await chain.ainvoke(输入)                      # 4. 异步执行

①使用API创建并初始化一个LLM

②构件任务1、任务2到任务n的格式(提示模版|llm|字符串输出格式)

③将任务1到任务n的结果进行内容拼接

④将拼接的内容|提示模版|llm|字符输出格式,得到最终的结果连接到通信管道

⑤将通信管道中的内容进行获取
Google ADK对多智能体并行的逻辑模版:

python 复制代码
# 1. 定义并行研究员
researcher_1 = LlmAgent(name="研究员1", instruction="任务1", output_key="result1")
researcher_2 = LlmAgent(name="研究员2", instruction="任务2", output_key="result2")

# 2. 创建并行执行器
parallel_agent = ParallelAgent(
    sub_agents=[researcher_1, researcher_2]  # 并行执行
)

# 3. 创建合并智能体
merger_agent = LlmAgent(
    instruction="基于{result1}和{result2}生成报告"  # 读取结果
)

# 4. 创建顺序工作流
main_agent = SequentialAgent(
    sub_agents=[parallel_agent, merger_agent]  # 先并行,后合并
)

①创建各个子智能体的身份模版,用于适配专门的任务

② 创建一个并行触发器(可以选择性触发对应的并行子智能体),用于统一管理各个子智能体

③合并拼接子智能体处理后得到的结果内容,将合并的内容按照总结智能体进行处理

④创建顺序工作流,用于规范智能体整体上处理任务的逻辑

总之,多个子智能体,一个智能体并发触发器,一个内容合并处理智能体,一个流程处理逻辑智能体(先并行执行,后合并)

相关推荐
小白郭莫搞科技13 小时前
鸿蒙跨端框架Flutter学习:CurvedAnimation曲线动画详解
学习·flutter·harmonyos
AI视觉网奇13 小时前
Delaying 20 processes from spawning due to memory pressure
笔记·学习·ue5
2501_9449347313 小时前
高职学历从事运营的现状分析
学习
Ftsom13 小时前
【6】kilo 上下文管理与压缩机制
人工智能·agent·ai编程·kilo
己亥孟陬13 小时前
【安全+高效+低成本】尝鲜Moltbot(原Clawdbot)
ai·agent·clawdbot·moltbot
勇往直前plus13 小时前
大模型开发手记(二):基于 LangChain 的 RAG 架构全面解析与落地实践
架构·langchain
知识分享小能手13 小时前
Oracle 19c入门学习教程,从入门到精通,Oracle优化SQL语句 — 语法知识点与使用方法详解(16)
sql·学习·oracle
calvinpaean13 小时前
Metric3D Towards Zero-shot Metric 3D Prediction from A Single Image 论文学习
学习·3d
Engineer邓祥浩13 小时前
设计模式学习(22) 23-20 解释器模式
学习·设计模式·解释器模式
zpedu14 小时前
什么是CISA证书?有啥作用
学习