Spring AI调用sglang模型返回HTTP 400分析处理

Spring AI调用sglang模型返回HTTP 400分析处理

一、问题描述

环境
  • java21
  • springboot: 3.5.5
  • spring-ai: 1.0.1
问题描述

Spring AI调用公司部署的sglang大模型返回错误HTTP 400 - {"object":"error","message":[{'type': 'missing', 'loc': ('body',), 'msg': 'Field required', 'input': None}]","type":"Bad Request","param":null,"code":400},但调用公网模型没问题,使用postman调用内网模型也没问题。

二、分析解决

使用wireshark捕包对比Spring AI发出的请求和postman请求差异,发现Spring AI的请求多了请求头Transfer-Encoding: chunked,postman加上此请求头后也报了同样的错误,猜测是公司部署的sglang不支持分块传输。

观察异常堆栈,有一个exchange(DefaultRestClient.java:540),看名字应该是发送请求的入口,从这里打断点调试。

  1. 定位到583行的clientRequest.execute(),继续追踪,发现底层调用的是jdk提供的HttpClientImpl

  2. 这个客户端使用了大量的异步操作,先定位到Exchange#responseAsyncImpl0,然后定位到Http1Request#headers,可见由requestPublisher#contentLength决定是否为流式请求,当值为-1时添加请求头Transfer-Encoding: chunked。而且在JdkClientHttpRequest#buildRequest方法中,自动排除了connection、content-length、expect、host、upgrade几个请求头。

  3. 向前追踪,requestPublisher构建于JdkClientHttpRequest#bodyPublisher,当请求头中存在contentLength时,才会构建包含contentLength的requestPublisher。这里推测当请求体为固定大小时,会添加contentLength请求头。

  4. 回到DefaultRestClient#createRequest,这里有两种客户端构建方式,一种是存在拦截器时通过InterceptionClientHttpRequestFactory构建,另一种是通过默认的JdkClientHttpRequestFactory

  5. JdkClientHttpRequest继承自AbstractStreamingClientHttpRequest,请求体使用流式传输。InterceptionClientHttpRequestFactory继承自AbstractBufferingClientHttpRequest,请求体会完全缓存,在executeInternal方法中会自动添加Content-Length请求头。

  6. DefaultRestClient构造方法打断点,向上一步步找到DefaultRestClientBuilderRestClientAutoConfiguration#restClientBuilderRestClientBuilderConfigurerRestClientAutoConfiguration#restClientBuilderConfigurer,发现注入参数ObjectProvider<RestClientCustomizer> customizerProvider,于是自定义Bean如下。

    java 复制代码
    import org.springframework.boot.web.client.RestClientCustomizer;
    import org.springframework.context.annotation.Configuration;
    import org.springframework.web.client.RestClient;
    
    @Configuration
    public class RestClientConfig implements RestClientCustomizer {
        @Override
        public void customize(RestClient.Builder restClientBuilder) {
            restClientBuilder.requestInterceptor((request, body, execution) -> execution.execute(request, body));
        }
    }
  7. 此时请求头中已经添加了Content-Length,但还是报错。

再次使用wireshark捕包,发现请求中多了请求头Connection: UpgradeUpgrade: h2c来协商升级到HTTP2,推测应该是sglang服务端不支持。定位到ExchangeImpl#get,这里会判断需要使用的HTTP版本,进一步定位到MultiExchange#version,发现会依次获取request.version、client.version直到取到非空值。request中的version追踪后发现是空值且无法定制,于是尝试修改client.version。

  1. client为HttpClientImpl类,打断点追踪,由JdkHttpClientBuilder#build构建,并支持通过customizer进行自定义。

  2. 继续向上追踪,找到JdkClientHttpRequestFacotryBuilder#createClientHttpRequestFactoryAbstractClientHttpRequestFactoryBuilder#build,这里有一组customizers通过LambdaSafe#callbacksJdkClientHttpReuqestFactory进行自定义。

  3. AbstractClientHttpRequestFactoryBuilder构造方法打打断点,向上追踪, 找到HttpClientAutoConfiguration#clientHttpRequestFactoryBuilder,发现注入参数ObjectProvider<ClientHttpRequestFactoryBuilzer<?>> clientHttpRequestFactoryBuilderCustomizers,于是自定义Bean如下。

    java 复制代码
    import org.springframework.boot.autoconfigure.http.client.ClientHttpRequestFactoryBuilderCustomizer;
    import org.springframework.boot.http.client.JdkClientHttpRequestFactoryBuilder;
    import org.springframework.context.annotation.Configuration;
    
    import java.net.http.HttpClient;
    
    @Configuration
    public class HttpClientConfig implements ClientHttpRequestFactoryBuilderCustomizer<JdkClientHttpRequestFactoryBuilder> {
        @Override
        public JdkClientHttpRequestFactoryBuilder customize(JdkClientHttpRequestFactoryBuilder builder) {
            return builder.withHttpClientCustomizer(httpClientBuilder -> httpClientBuilder.version(HttpClient.Version.HTTP_1_1));
        }
    }

再测试已无HTTP2协商相关请求头,可以正常调用模型。

相关推荐
moonsheeper41 分钟前
NLP技术爬取
人工智能·自然语言处理
拆房老料1 小时前
大语言模型基础-Transformer之上下文
人工智能·语言模型·transformer
zzywxc7871 小时前
AI行业应用:金融、医疗、教育、制造业的落地案例全解析
人工智能·深度学习·spring·机器学习·金融·数据挖掘
Ai工具分享1 小时前
视频增强AI哪个效果好?实战对比帮你找到最适合的工具
人工智能·音视频
山烛1 小时前
OpenCV 模板匹配
人工智能·python·opencv·计算机视觉·目标跟踪·模板匹配
财经三剑客1 小时前
追觅极境冰箱震撼上市:以首创超低氧保鲜科技打造家庭健康中心
大数据·人工智能·科技
机器之心1 小时前
被网友逼着改名的谷歌Nano Banana,正在抢99%时尚博主的饭碗
人工智能·openai
小王爱学人工智能1 小时前
残差神经网络的案例
人工智能·深度学习·神经网络
LLM精进之路2 小时前
0825-0829 | 大模型方向周报:多模态模型研究、训练与优化策略、安全与对齐等方向
人工智能·深度学习·机器学习
一尘之中2 小时前
《空中隧道》:一位金融预言家写在1927年的“科幻小说”,藏着何种投资秘钥?
人工智能·金融·ai写作