Agent学习——并行化模式

并行化核心:在任务处理过程中的独立模块,并行执行,这在调用API使用或者数据库时,对这种多少独立的请求的任务处理十分有效,能显著降低总体等待的时间。

并行化实现的条件:要求支持异步执行、多线程或多进程的框架(LangChain(通过|运算符设计带有并发分支的链或图结构来实现并发操作)/LangGraph(利用图结构,使得其在状态转换中执行多个节点,从而实现多并发操作)/Google ADK(其支持多个智能体并发运行)等框架均支持并行执行机制)

总之,并发操作使得智能体能在同样的时间内,执行更多的任务(独立查询、独立计算、调用API/工具、多个子智能体的操控、多模态数据的处理,多数据源处理),使得智能体的效率和响应速度提升
LangChain并行处理的逻辑模版:

python 复制代码
# 最小化版本
parallel_tasks = RunnableParallel(任务1, 任务2, 任务3)  # 1. 定义并行任务
synthesis = "基于{结果1}{结果2}{结果3}生成回答"           # 2. 定义综合模板
chain = parallel_tasks | synthesis | llm | parser        # 3. 连接管道
result = await chain.ainvoke(输入)                      # 4. 异步执行

①使用API创建并初始化一个LLM

②构件任务1、任务2到任务n的格式(提示模版|llm|字符串输出格式)

③将任务1到任务n的结果进行内容拼接

④将拼接的内容|提示模版|llm|字符输出格式,得到最终的结果连接到通信管道

⑤将通信管道中的内容进行获取
Google ADK对多智能体并行的逻辑模版:

python 复制代码
# 1. 定义并行研究员
researcher_1 = LlmAgent(name="研究员1", instruction="任务1", output_key="result1")
researcher_2 = LlmAgent(name="研究员2", instruction="任务2", output_key="result2")

# 2. 创建并行执行器
parallel_agent = ParallelAgent(
    sub_agents=[researcher_1, researcher_2]  # 并行执行
)

# 3. 创建合并智能体
merger_agent = LlmAgent(
    instruction="基于{result1}和{result2}生成报告"  # 读取结果
)

# 4. 创建顺序工作流
main_agent = SequentialAgent(
    sub_agents=[parallel_agent, merger_agent]  # 先并行,后合并
)

①创建各个子智能体的身份模版,用于适配专门的任务

② 创建一个并行触发器(可以选择性触发对应的并行子智能体),用于统一管理各个子智能体

③合并拼接子智能体处理后得到的结果内容,将合并的内容按照总结智能体进行处理

④创建顺序工作流,用于规范智能体整体上处理任务的逻辑

总之,多个子智能体,一个智能体并发触发器,一个内容合并处理智能体,一个流程处理逻辑智能体(先并行执行,后合并)

相关推荐
xcLeigh1 天前
Python入门:Python3 requests模块全面学习教程
开发语言·python·学习·模块·python3·requests
xcLeigh1 天前
Python入门:Python3 statistics模块全面学习教程
开发语言·python·学习·模块·python3·statistics
GHL2842710901 天前
分析式AI学习
人工智能·学习·ai编程
lpruoyu1 天前
【Android第一行代码学习笔记】Android架构_四大组件_权限_持久化_通知_异步_服务
android·笔记·学习
野犬寒鸦1 天前
从零起步学习并发编程 || 第六章:ReentrantLock与synchronized 的辨析及运用
java·服务器·数据库·后端·学习·算法
wdfk_prog1 天前
[Linux]学习笔记系列 -- [drivers][mmc][mmc_sdio]
linux·笔记·学习
果果燕1 天前
今日学习笔记:双向链表、循环链表、栈
笔记·学习·链表
觉醒大王1 天前
AI写的青基中了
人工智能·笔记·深度学习·学习·职场和发展·学习方法
User_芊芊君子1 天前
HCCL高性能通信库编程指南:构建多卡并行训练系统
人工智能·游戏·ai·agent·测评
驱动探索者1 天前
linux mailbox 学习
linux·学习·算法