[MAF的Agent管道详解-07]利用AIAgent中间件构建Agent管道

与采用DelegatingChatClient中间件装饰IChatClient对象并构成IChatClient管道的方式类似,我们可以使用DelegatingAIAgent代表的AIAgent中间件来装饰一个AIAgent对象,并构成一个AIAgent管道。通过在不同的阶段插入不同的AIAgent中间件,我们就可以实现对Agent调用的全方位控制和增强。DelegatingAIAgent中间件链条位于整个AIAgent管道的最前端。

1. DelegatingAIAgent

作为AIAgent中间件的一个DelegatingAIAgent类型定义如下。这是一个派生于AIAgent的抽象类,它的核心成员是一个InnerAgent属性,表示被委托的AIAgent对象。我们可以定义DelegatingAIAgent的派生类,通过重写其属性成员和方法来实现对InnerAgent的功能扩展和增强。通过不断地嵌套多个DelegatingAIAgent,我们就可以构建出一个类似于中间件的管道来对AIAgent进行扩展和增强。

csharp 复制代码
public abstract class DelegatingAIAgent : AIAgent
{
    protected AIAgent InnerAgent { get; }
    protected override string? IdCore => InnerAgent.Id;
    public override string? Name => InnerAgent.Name;
    public override string? Description => InnerAgent.Description;
    protected DelegatingAIAgent(AIAgent innerAgent) =>InnerAgent = innerAgent;

    public override object? GetService(Type serviceType, object? serviceKey = null)
    {
        if (serviceKey != null || !serviceType.IsInstanceOfType(this))
        {
            return InnerAgent.GetService(serviceType, serviceKey);
        }
        return this;
    }

    protected override ValueTask<AgentSession> CreateSessionCoreAsync(
        CancellationToken cancellationToken = default)
    =>InnerAgent.CreateSessionAsync(cancellationToken);

    protected override ValueTask<JsonElement> SerializeSessionCoreAsync(
        AgentSession session, 
        JsonSerializerOptions? jsonSerializerOptions = null, 
        CancellationToken cancellationToken = default)
    =>InnerAgent.SerializeSessionAsync(session, jsonSerializerOptions, cancellationToken);

    protected override ValueTask<AgentSession> DeserializeSessionCoreAsync(
        JsonElement serializedState, 
        JsonSerializerOptions? jsonSerializerOptions = null, 
        CancellationToken cancellationToken = default)
    =>InnerAgent.DeserializeSessionAsync(serializedState, jsonSerializerOptions, cancellationToken);

    protected override Task<AgentResponse> RunCoreAsync(
        IEnumerable<ChatMessage> messages, 
        AgentSession? session = null, 
        AgentRunOptions? options = null, 
        CancellationToken cancellationToken = default)
    => InnerAgent.RunAsync(messages, session, options, cancellationToken);

    protected override IAsyncEnumerable<AgentResponseUpdate> RunCoreStreamingAsync(
        IEnumerable<ChatMessage> messages, 
        AgentSession? session = null, 
        AgentRunOptions? options = null, 
        CancellationToken cancellationToken = default)
    => InnerAgent.RunStreamingAsync(messages, session, options, cancellationToken);
}

多个DelegatingAIAgent和最终的被委托的AIAgent按照顺序组成了一个AIAgent管道,这个管道的结构如下所示。

从定义可以看出,以DelegatingAIAgent形式定义的AIAgent中间件并非专属于ChatClientAgent,理论上它可以用于任何类型的AIAgent对象。所以系统按照ChatClientBuilder一样的模式定义了AIAgentBuilder。我们可以针对一个具体的AIAgent或者创建AIAgent的工厂来构建一个AIAgentBuilder对象,然后通过调用AIAgentBuilder的一系列重载的Use方法来注册不同的AIAgent中间件,最后调用Build方法来构建出一个代表整个管道的AIAgent对象。

2. AIAgentBuilder

csharp 复制代码
public sealed class AIAgentBuilder
{	
    public AIAgentBuilder(AIAgent innerAgent);
    public AIAgentBuilder(Func<IServiceProvider, AIAgent> innerAgentFactory);

    public AIAgent Build(IServiceProvider? services = null);

    public AIAgentBuilder Use(Func<AIAgent, AIAgent> agentFactory);
    public AIAgentBuilder Use(Func<AIAgent, IServiceProvider, AIAgent> agentFactory);
    public AIAgentBuilder Use(
        Func<IEnumerable<ChatMessage>, AgentSession?, AgentRunOptions?, Func<IEnumerable<ChatMessage>, AgentSession?, AgentRunOptions?, CancellationToken, Task>, CancellationToken, Task> sharedFunc);

    public AIAgentBuilder Use(
        Func<IEnumerable<ChatMessage>, AgentSession?, AgentRunOptions?, AIAgent, CancellationToken, Task<AgentResponse>>? runFunc, 
        Func<IEnumerable<ChatMessage>, AgentSession?, AgentRunOptions?, AIAgent, CancellationToken, IAsyncEnumerable<AgentResponseUpdate>>? runStreamingFunc);
}

3. 系统预定义的AIAgent中间件

  • MessageAIContextProviderAgent:MessageAIContextProviderAgent是对一组MessageAIContextProvider的包装,它利用重写的RunCoreAsync和RunCoreStreamingAsync方法来调用MessageAIContextProvider针对请求消息的增强以及针对响应消息的增强和处理异常;
  • FunctionInvocationDelegatingAgent:利用提供的委托可以在某个工具的执行前后注入自定义的逻辑,也可以接管某个工具的调用;
  • AIHostAgent:通过为为AIAgent绑定了一个AgentSessionStore用来持久化会话状态,使之成为一个具有会话持久化与线程恢复能力的AIAgent;
  • LoggingAgent:负责拦截内部Agent的各种生命周期操作(如发送请求、模型响应、工具调用),并将这些细节高效、结构化地输出到.NET标准的ILogger日志管道中;
  • OpenTelemetryAgent:它实现了OpenTelemetry,能够将Agent在推理、工具调用及多轮协作中的各种行为,转化为标准化的Trace链路追踪)、Metrics(指标度量)和 Logs(日志),输出给云端或本地的现代观测后端;
  • FundtryAgent:是微软Agent框架中连接本地代码与Azure AI Foundry云端托管服务的平台级桥梁组件 。它采用定义在云、消费在本地的架构,Agent的提示词、模型参数和工具资产(如代码解释器、文件检索)全部在云端进行可视化管理与安全执行。本地代码只需通过 Agent ID即可直接对其进行实例化;
  • EntityAgentWrapper:基于 Azure Durable Functions或Durable Task Scheduler 的底层技术,为Agent披上了一层"防弹衣"。它把一个普通的 AIAgent(例如 ChatClientAgent)封装为一个受持久化框架管理的有状态实体(Durable Entity)。 包装器形式出现)是 Durable Task 扩展包(Durable Task Extension)中的核心组件。它的核心职责是将普通的无状态Agent包装为"长生不老"的有状态持久化实体,使其能够跨越服务器崩溃、重启或数周的人工审批流,自动实现状态恢复与断点续传。
相关推荐
luteres6 分钟前
大模型AI应用开发
ai
OxYGC17 分钟前
[AI工程] Spring AI 第十四篇:Agent 五种模式在 2.0 里怎么写
java·spring·ai·ai编程
我是小邵31 分钟前
长对话先收口:用“工作记忆 vs 长期记忆“管理 AI 上下文
人工智能·ai·llm·长期记忆·中间迷失·上下文收口
Web3&Basketball37 分钟前
Agent外传审计实战:3类失准事故拦截脚本
python·大模型·agent·性能调优·推理优化
liulilittle38 分钟前
麻将结算全链路语义(SETTLE_SEMANTICS)
ai·自动化·llm·mock·lua·测试
武子康1 小时前
vLLM 的 token 预算还有余量,为什么请求仍被抢占?
人工智能·llm·agent
东方护航数据恢复(深圳)1 小时前
本地小算力设备数据恢复经典案例实操全解_东方护航数据恢复深圳店
大数据·服务器·算法·ai·gpu算力
Anastasiozzzz1 小时前
重新定义 Agent 基建:Redis 在现代 AI 与智能体系统中的工程实践
java·人工智能·redis·ai
染指11101 小时前
120.Agent-LangChain核心组件-中间件-摘要中间件(SummarizationMiddleware)
人工智能·langchain·agent·agents
蒲公英eric2 小时前
DVWA通关全记录:从漏洞复现到安全防御——总结篇
web安全·ai·dvwa·ai安全