MCP协议重大升级，Spring AI Alibaba联合Higress发布业界首个Streamable HTTP实现方案

阿里云云原生2025-04-23 10:09

本文作者：刘军、张宇，Spring AI Alibaba Contributor

文章摘要

MCP 官方引入了全新的 Streamable HTTP 传输层，对原有 HTTP+SSE 传输机制有重大改进。本文将：

  1. 详细解析 Streamable HTTP 的设计思想、技术细节以及实际应用。

  2. 详解 Spring AI Alibaba 开源框架提供的 Streamable HTTP Java 实现。

  3. 提供 Spring AI Alibaba + Higress 的 Streamable HTTP 完整可运行示例与讲解。

HTTP+SSE 原理及缺陷

在原有的 MCP 实现中，客户端和服务器通过两个主要通道通信：

  • HTTP 请求/响应： 客户端通过标准 HTTP 请求发送消息到服务器
  • 服务器发送事件(SSE)： 服务器通过专门的 /sse 端点向客户端推送消息

主要问题

这种设计虽然简单直观，但存在几个关键问题：

不支持断线重连/恢复

当 SSE 连接断开时，所有会话状态丢失，客户端必须重新建立连接并初始化整个会话。例如，正在执行的大型文档分析任务会因 WiFi 不稳定而完全中断，迫使用户重新开始整个过程。

服务器需维护长连接

服务器必须为每个客户端维护一个长时间的 SSE 连接，大量并发用户会导致资源消耗剧增。当服务器需要重启或扩容时，所有连接都会中断，影响用户体验和系统可靠性。

服务器消息只能通过 SSE 传递

即使是简单的请求-响应交互，服务器也必须通过 SSE 通道返回信息，造成不必要的复杂性和开销。对于某些环境（如云函数）不适合长时间保持 SSE 连接。

基础设施兼容性限制

许多现有的 Web 基础设施如 CDN、负载均衡器、API 网关等可能不能正确处理长时间的 SSE 连接，企业防火墙可能会强制关闭超时连接，导致服务不可靠。

Streamable HTTP 原理与改进

Streamable 关键改进

相比原有 HTTP+SSE 机制，Streamable HTTP 引入了几项关键改进：

  1. 统一 Endoint ：移除专门的 /sse 端点，所有通信通过单一端点（当前官方 sdk 实现为 /mcp）进行

  2. 按需流式传输：服务器可灵活选择是返回普通 HTTP 响应还是升级为 SSE 流

  3. 会话标识：引入会话 ID 机制，支持状态管理和恢复

  4. 灵活初始化：客户端可通过空 GET 请求主动初始化 SSE 流

Streamable 工作原理

Streamable HTTP 的工作流程如下：

  1. 会话初始化（非强制，适用于有状态实现场景）：
  • 客户端发送初始化请求到 /mcp 端点
  • 服务器可选择生成会话 ID 返回给客户端
  • 会话 ID 用于后续请求中标识会话

2. 客户端向服务器通信：

  • 所有消息通过 HTTP POST 请求发送到 /mcp 端点
  • 如果有会话 ID，则包含在请求中

3. 服务器响应方式：

  • 普通响应： 直接返回 HTTP 响应，适合简单交互
  • 流式响应： 升级连接为 SSE，发送一系列事件后关闭
  • 长连接： 维持 SSE 连接持续发送事件

4. 主动建立 SSE 流：

  • 客户端可发送 GET 请求到 /mcp 端点主动建立 SSE 流
  • 服务器可通过该流推送通知或请求

5. 连接恢复：

  • 连接中断时，客户端可使用之前的会话 ID 重新连接
  • 服务器可恢复会话状态继续之前的交互

Streamable 请求示例*

无状态服务器模式

场景：简单工具 API 服务，如数学计算、文本处理等。

实现：

lua 复制代码 
客户端                                 服务器
   |                                    |
   |-- POST /message (计算请求) -------->|
   |                                    |-- 执行计算
   |<------- HTTP 200 (计算结果) -------|
   |                                    |

优势：极简部署，无需状态管理，适合无服务器架构和微服务。

流式进度反馈模式

场景：长时间运行的任务，如大文件处理、复杂 AI 生成等。

实现：

lua 复制代码 
客户端                                 服务器
   |                                    |
   |-- POST /message (处理请求) -------->|
   |                                    |-- 启动处理任务
   |<------- HTTP 200 (SSE开始) --------|
   |                                    |
   |<------- SSE: 进度10% ---------------|
   |<------- SSE: 进度30% ---------------|
   |<------- SSE: 进度70% ---------------|
   |<------- SSE: 完成 + 结果 ------------|
   |                                    |

优势：提供实时反馈，但不需要永久保持连接状态。

复杂 AI 会话模式

场景：多轮对话 AI 助手，需要维护上下文。

实现：

lua 复制代码 
客户端                                 服务器
   |                                    |
   |-- POST /message (初始化) ---------->|
   |<-- HTTP 200 (会话ID: abc123) ------|
   |                                    |
   |-- GET /message (会话ID: abc123) --->|
   |<------- SSE流建立 -----------------|
   |                                    |
   |-- POST /message (问题1, abc123) --->|
   |<------- SSE: 思考中... -------------|
   |<------- SSE: 回答1 ----------------|
   |                                    |
   |-- POST /message (问题2, abc123) --->|
   |<------- SSE: 思考中... -------------|
   |<------- SSE: 回答2 ----------------|

优势：维护会话上下文，支持复杂交互，同时允许水平扩展。

断线恢复模式

场景：不稳定网络环境下的 AI 应用使用。

实现：

lua 复制代码 
客户端                                 服务器
   |                                    |
   |-- POST /message (初始化) ---------->|
   |<-- HTTP 200 (会话ID: xyz789) ------|
   |                                    |
   |-- GET /message (会话ID: xyz789) --->|
   |<------- SSE流建立 -----------------|
   |                                    |
   |-- POST /message (长任务, xyz789) -->|
   |<------- SSE: 进度30% ---------------|
   |                                    |
   |     [网络中断]                      |
   |                                    |
   |-- GET /message (会话ID: xyz789) --->|
   |<------- SSE流重新建立 --------------|
   |<------- SSE: 进度60% ---------------|
   |<------- SSE: 完成 ------------------|

优势：提高弱网环境下的可靠性，改善用户体验。

Spring AI Alibaba 社区的 Streamable HTTP 实现

从企业业务落地视角看，为什么需要 Streamable HTTP

在前文中，我们从理论上列举了 HTTP+SSE 与 Streamable 两种模式各自的优劣。在实际落地应用中，由于 HTTP+SSE 模式割裂的请求与响应模式，导致它在架构实现与扩展性上存在一个非常棘手的问题：它强制要求在 client 与 server 之间维持粘性会话连接（Sticky Session），即使只是维持无状态 Stateless 通信，我们也需要维护一个 session id，并确保具备相同 session id 的请求发送到相同的服务端机器，这对于 client 和 server 端实现都是非常重的负担，对于 server 水平扩展是个挑战。

因此，前期的很多 MCP server 都是 stdio 模式，包括 C 端的很多通用智能体如 Claude 支持的也是 stdio 模式居多。stdio 模式下对于安装在个人电脑上的 Claude 来说不是一个大问题，而对于部署在服务器上的企业级业务 client 来说则是一个很重的动作，因此 stdio 模式也并不适合企业级业务落地。

对于 Streamable HTTP 模式，如果只是要维持 Stateless 通信的话，是完全不需要维护 sticky session 的。而考虑到 90% 以上的 MCP 服务可能都是无状态的，这对于整体架构的可扩展性是一个非常大的提升。

当然，如果要实现 Stateful 通信的话，Streamable HTTP 模式同样也还是需要维护 session id 的。

Streamable HTTP Java 版实现方案

当前 MCP 和 Spring AI 官方并没有给出 Streamable 目前我们只给出了 Stream HTTP Client 实现，且只支持 Stateless 模式，可以调通官方的 Typescript server 实现、Higress 社区的 server 实现。

完整可运行示例可参考：

github.com/springaiali...

由于 streamable http 方案的 MCP java sdk 实现还在开发中，因此该示例仓库中包含如下两个仓库的定制源码：

  1. MCP java-sdk，在项目 io.modelcontextprotocol 包。

  2. Spring AI，在项目 org.springframework.ai.mcp.client.autoconfigure 包。

示例集成了支持 MCP Streamable HTTP 协议实现的 Higress 网关，该实现还有很多限制，如不支持 GET 请求、不支持 session-id 管理等。

新增 StreamHttpClientTransport

GET 请求（空请求体），主动建立 SSE 连接

客户端可以通过主动发送 GET 请求到 /mcp 端点建立 SSE 连接，并用作后续请求响应通道。

less 复制代码 
return Mono.defer(() -> Mono.fromFuture(() -> {
        final HttpRequest.Builder builder = requestBuilder.copy().GET().uri(uri);
        final String lastId = lastEventId.get();
        if (lastId != null) {
            builder.header("Last-Event-ID", lastId);
        }
        return httpClient.sendAsync(builder.build(), HttpResponse.BodyHandlers.ofInputStream());
    }).flatMap(response -> {
        if (response.statusCode() == 405 || response.statusCode() == 404) {
            // .....
        }
        return handleStreamingResponse(response, handler);
    })
    .retryWhen(Retry.backoff(3, Duration.ofSeconds(3)).filter(err -> err instanceof IllegalStateException))
    .doOnSuccess(v -> state.set(TransportState.CONNECTED))
    .doOnTerminate(() -> state.set(TransportState.CLOSED))
    .onErrorResume(e -> {
        System.out.println("Ignore GET connection error.");
        LOGGER.error("Streamable transport connection error", e);
        state.set(TransportState.CONNECTED);
        return Mono.just("Streamable transport connection error").then();
    }));

POST 请求，服务端可以普通 response 响应或者升级 SSE 响应

对等的示例 http 请求，listTool 与 callTool 是类似的请求。

vbnet 复制代码 
curl -X POST -H "Content-Type: application/json" -H "Accept: application/json" -H "Accept: text/event-stream"     -d '{
  "jsonrpc" : "2.0",   
  "method" : "initialize",   
  "id" : "9afdedcc-0",
  "params" : {             
    "protocolVersion" : "2024-11-05",   
    "capabilities" : { 
      "roots" : {        
        "listChanged" : true
      }  
    },  
    "clientInfo" : {
      "name" : "Java SDK MCP Client",                                                 
      "version" : "1.0.0"
    }
  }
}' -i http://localhost:3000/mcp

可以启动并使用官方 typescript-sdk 提供的 Streamable Server 配合当前 client 实现进行测试。

Java代码实现

kotlin 复制代码 
// 发送 POST 请求到 /mcp，包括
public Mono<Void> sendMessage(final McpSchema.JSONRPCMessage message,
			final Function<Mono<McpSchema.JSONRPCMessage>, Mono<McpSchema.JSONRPCMessage>> handler) {
    // ... 
    return sentPost(message, handler).onErrorResume(e -> {
        LOGGER.error("Streamable transport sendMessage error", e);
        return Mono.error(e);
    });
}

// 实际发送 POST 请求并处理响应
private Mono<Void> sentPost(final Object msg,
        final Function<Mono<McpSchema.JSONRPCMessage>, Mono<McpSchema.JSONRPCMessage>> handler) {
    return serializeJson(msg).flatMap(json -> {
        final HttpRequest request = requestBuilder.copy()
            .POST(HttpRequest.BodyPublishers.ofString(json))
            .uri(uri)
            .build();
        return Mono.fromFuture(httpClient.sendAsync(request, HttpResponse.BodyHandlers.ofInputStream()))
            .flatMap(response -> {
                // If the response is 202 Accepted, there's no body to process
                if (response.statusCode() == 202) {
                    return Mono.empty();
                }

                if (response.statusCode() == 405 || response.statusCode() == 404) {
                 // ...
                }

                if (response.statusCode() >= 400) {
                 // ...
                }

                return handleStreamingResponse(response, handler);
            });
    });

}

// 处理服务端可能发回的不同类型响应
private Mono<Void> handleStreamingResponse(final HttpResponse<InputStream> response,
			final Function<Mono<McpSchema.JSONRPCMessage>, Mono<McpSchema.JSONRPCMessage>> handler) {
    final String contentType = response.headers().firstValue("Content-Type").orElse("");
    if (contentType.contains("application/json-seq")) {
        return handleJsonStream(response, handler);
    }
    else if (contentType.contains("text/event-stream")) {
        return handleSseStream(response, handler);
    }
    else if (contentType.contains("application/json")) {
        return handleSingleJson(response, handler);
    }
    else {
        return Mono.error(new UnsupportedOperationException("Unsupported Content-Type: " + contentType));
    }
}

集成到 Spring AI 框架

less 复制代码 
@AutoConfiguration
@ConditionalOnClass({ McpSchema.class, McpSyncClient.class })
@EnableConfigurationProperties({ McpStreamableClientProperties.class, McpClientCommonProperties.class })
@ConditionalOnProperty(prefix = McpClientCommonProperties.CONFIG_PREFIX, name = "enabled", havingValue = "true",
		matchIfMissing = true)
public class StreamableHttpClientTransportAutoConfiguration {
	@Bean
	public List<NamedClientMcpTransport> mcpHttpClientTransports(McpStreamableClientProperties streamableProperties,
			ObjectProvider<ObjectMapper> objectMapperProvider) {

		ObjectMapper objectMapper = objectMapperProvider.getIfAvailable(ObjectMapper::new);

		List<NamedClientMcpTransport> sseTransports = new ArrayList<>();

		for (Map.Entry<String, McpStreamableClientProperties.StreamableParameters> serverParameters : streamableProperties.getConnections().entrySet()) {

			var transport = StreamableHttpClientTransport.builder(serverParameters.getValue().url()).withObjectMapper(objectMapper).build();
			sseTransports.add(new NamedClientMcpTransport(serverParameters.getKey(), transport));
		}

		return sseTransports;
	}

}

完整 Spring AI Alibaba + Higress Streamable HTTP 示例

通过配置如下，可以开启 Streamable HTTP Transport。配置如下 Higress 提供的 MCP Server 地址（支持有限的 Streamable HTTP Server 实现）。

yaml 复制代码 
spring:
  ai:
    mcp:
      client:
        toolcallback:
          enabled: true
        streamable:
          connections:
            server1:
              url: （虚拟地址需自行替换）http://env-xxxxxjem1hkjat42sxxx-ap-southeast-1.alicloudapi.com/mcp-quark
less 复制代码 
@SpringBootApplication(exclude = {
        org.springframework.ai.mcp.client.autoconfigure.SseHttpClientTransportAutoConfiguration.class,
})
@ComponentScan(basePackages = "org.springframework.ai.mcp.client")
public class Application {
    @Bean
    public CommandLineRunner predefinedQuestions(ChatClient.Builder chatClientBuilder, ToolCallbackProvider tools,
            ConfigurableApplicationContext context) {
        return args -> {
            var chatClient = chatClientBuilder
                    .defaultTools(tools)
                    .build();

            System.out.println("\n>>> QUESTION: " + "阿里巴巴西溪园区");
            System.out.println("\n>>> ASSISTANT: " + chatClient.prompt("阿里巴巴西溪园区").call().content());

            System.out.println("\n>>> QUESTION: " + "黄金价格走势");
            System.out.println("\n>>> ASSISTANT: " + chatClient.prompt("黄金价格走势").call().content());

        };
    }
}

运行示例后，看到成功连接 MCP Server 并执行 list tool，Higress 示例内置了两个 tool。

swift 复制代码 
{
	"jsonrpc": "2.0",
	"id": "32124bd9-1",
	"result": {
		"nextCursor": "",
		"tools": [{
			"description": "Performs a web search using the Quark Search API, ideal for general queries, news, articles, and online content.\nUse this for broad information gathering, recent events, or when you need diverse web sources.\nBecause Quark search performs poorly for English searches, please use Chinese for the query parameters.",
			"inputSchema": {
				"additionalProperties": false,
				"properties": {
					"contentMode": {
						"default": "summary",
						"description": "Return the level of content detail, choose to use summary or full text",
						"enum": ["full", "summary"],
						"type": "string"
					},
					"number": {
						"default": 5,
						"description": "Number of results",
						"type": "integer"
					},
					"query": {
						"description": "Search query, please use Chinese",
						"examples": ["黄金价格走势"],
						"type": "string"
					}
				},
				"required": ["query"],
				"type": "object"
			},
			"name": "web_search"
		}]
	}
}

示例发起 chat 会话，模型会引导智能体调用 web_search tool 并返回结果。

当前实现限制与改进规划

当前只是在官方 java sdk 的基础上新增了 Streamable HTTP 模式的 McpClientTransport 实现，但其实这种改造方法没办法很好的完全支持 Streamable HTTP，因为它的工作流程在很多地方和 HTTP+SSE 不一致，而之前的 java sdk 很多流程是强绑定 HTTP+SSE 模式设计的，导致当前的 sdk 实现上需要做一些结构化修改。

比如，有如下几点当前的实现就是受限的：

  1. Initialization 过程在 Streamable HTTP 中并不是必须的，只有实现有状态管理时才需要，并且Initializated之后，后续的所有请求都需要带上 mcp-session-id。而当前的 java-sdk 设计是强制检查 Initialization 状态，并且在 initiialization 后没有管理 mcp-session-id

  2. /mcp GET 请求在协议中是被约束为 client 主动发起 SSE 请求时使用，而当前实现是在每次 connect 时发起 GET 请求并建立 SSE 会话，后续的 POST 请求通过也依赖这里发回响应，这可以通过 pendingResponses 属性的操作看出来。

当前 Spring AI Alibaba 社区的多位核心贡献者在积极参与 MCP 官方 sdk 建设，包括问题修复、Streamable HTTP 方案实现等，目前我们已经将相关 PR 提交官方社区。以下是社区的 Streamable 方案 PR:

  1. github.com/modelcontex...

  2. github.com/modelcontex...

官方实现与参考资料

  1. Spring AI Alibaba 官方网站：

java2ai.com/

  1. Spring AI Alibaba 开源项目源码仓库：

github.com/alibaba/spr...

  1. mcp-streamable-http

www.claudemcp.com/blog/mcp-st...

  1. MCP java-sdk

github.com/modelcontex...

  1. Streamable HTTP：

modelcontextprotocol.io/specificati...

相关推荐
阿里云云原生17 分钟前
我定制的通义灵码 Project Rules，用 AI 写出“更懂我”的代码
云原生
Waitccy2 小时前
K8s：概念、特点、核心组件与简单应用
云原生·容器·kubernetes
deepdata_cn6 小时前
云原生边缘计算框架（KubeEdge）
人工智能·云原生·边缘计算
David爱编程6 小时前
Kubernetes启动探针：解决慢启动服务的利器
docker·云原生·kubernetes
weisian1517 小时前
云原生--基础篇-3--云原生概述（云、原生、云计算、核心组成、核心特点）
网络·云原生·云计算
我的golang之路果然有问题9 小时前
案例速成k8s,个人笔记快速入门
经验分享·笔记·docker·云原生·容器·kubernetes·k8s
Ares-Wang9 小时前
kubernetes》》k8s》》删除命名空间
云原生·容器·kubernetes
云攀登者-望正茂18 小时前
Jenkins 多分支流水线: 如何创建用于 Jenkins 状态检查的 GitHub 应用
云原生·github·jenkins
周周的奇妙编程21 小时前
解决方案评测｜告别复杂配置！基于阿里云云原生应用开发平台CAP快速部署Bolt.diy
阿里云·云原生·云计算
热门推荐
01KGG转MP3工具|非KGM文件|解密音频02从零安装 LLaMA-Factory 微调 Qwen 大模型成功及所有的坑03我决定放弃搞 Java 了04YOLOv8入门 | 重要性能衡量指标、训练结果评价及分析及影响mAP的因素【发论文关注的指标】05DeepSeek各版本说明与优缺点分析06RAG 实践- Ollama+RagFlow 部署本地知识库07苍穹外卖面试总结08yolov8，yolo11，yolo12 服务器训练到部署全流程 笔记09如何在WPS和Word/Excel中直接使用DeepSeek功能10组基轨迹建模 GBTM的介绍与实现（Stata 或 R）