Http 请求偶发400错误

1. 背景

生产环境偶发400请求错误,发生概率万分之一,异常信息如下:

1) 从异常信息可以看到,skywalking的sw8 header解析失效导致异常信息。

2) 0x0d0x0a 作为回车换行符号,没有被正确处理,导致header的截断错误。

2. 排查过程

1) 怀疑skywalking的sw8 header头存在异常编码情况,导致header头格式错误,对sw8进行链路的反解,反解信息正常如下所示,因此排除skywalking的问题:

|-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| sw8:1-ZGM1YmQ1NzYzMTEwNGY1MDlmOGRhMGQ0MTcwZTU0ZGIuMTUzLjE3MTI4MTk1NjIyMjc0Mzgz-ZjlmZTAwMmJmZTNkNGE2MGFlNDQ5NWRhYTY1YzQ4NDQuMzI0Mi4xNzEyODE5NTYyMjYzMjgwNA==-1-ZW5kcG9pbnQtZ2F0ZXdheQ==-ZW5kcG9pbnQtZ2F0ZXdheUBuMTEwZWdrOHNhcDAwMDI=-SHlzdHJpeC9kcy9FeGVjdXRpb24=-MTAuMjEwLjkuMzU6MzAyOTI= |
| 追踪ID:2f8b4d048cd345d2bce4fad6fb055fe0.150.17128195042681703 父追踪片段ID:2f8b4d048cd345d2bce4fad6fb055fe0.150.17128195042681703 -1- 父服务名称:endpoint-gateway 父服务实例标识,解码后为endpoint-gateway@n110egk8sap0002 父服务的端点:Hystrix/ds/Execution 本请求的目标地址: 10.210.9.35:30292 |

2) 通过异常堆栈,找到对应的异常代码逻辑org.apache.coyote.http11.Http11InputBuffer.parseHeader(), 可以发现tomcat是按数据包的字节流处理header的。正常情况下碰到CR LF会跳出循环处理header项,但是400异常情况下并没有。

3) 对请求进行抓包,发现400错误请求的TCP 包刚好截断在CR LF之间。

由于第一个数据包截断在CR, 所以第一个数据包没办法处理sw8的header,会返回HeaderParseStatus.NEED_MORE_DATA等待第二个数据包的到来。

当第二个数据包到达时,会对回车和换行符进行处理,但是由于tomact 9.0.31版本对LF处理有问题,当一个字符是LF时,被当作普通字符拼接到之前的数据流的末尾。

此时,prevChr=0, 但是chr=LF,tomcat认为header格式异常,因此删除当前这个header进入异常打印逻辑。

打印异常的时候,从当前位置往下读直到碰到回车换行符,也就是sw-correction:,因此异常打印到sw-correction header项。

将控制符转化为16进制码进行打印,也就是异常里面0x0d0x0a的信息。

3. 问题复现

由于问题需要发生在tcp包刚好截断在CRLF之间,因此比较难以复现,本地用socket程序模拟CRLF 截断。分别发送两个数据包,第一个包发送数据到CR,第二个包发送剩下的数据。

成功复现了生产环境的错误。

4. 修复方案

Tomcat 9.0.46 版本对类似问题进行了修复,https://bz.apache.org/bugzilla/show_bug.cgi?id=65272。因此升级tomcat到9.0.46以后的版本就可以解决这个问题。

相关推荐
cpolar技术支持3 小时前
网关加 gzip,同时开启 chunked,下载回来的包解不开:把两层编码的解压顺序与长度核对做成只读页
python·http·网络编程·socket·内网穿透
骑着蜗牛撵大象32710 小时前
手写一个 HTTP 服务器:从 socket 到 epoll,Linux 上到底怎么把请求变成响应
linux·服务器·网络·http·epoll·socket编程·并发模型
沫璃染墨11 小时前
从零入门计算机网络系列(十):HTTP协议进阶——从资源路径解析到状态码与请求头详解
linux·运维·服务器·网络·c++·http
|_⊙12 小时前
应用层协议HTTP与HTTPS
网络·网络协议·http
路由侠内网穿透.13 小时前
本地部署开源 WSGI HTTP 服务器 Gunicorn 并实现外部访问
运维·服务器·网络·网络协议·http·开源
行者-全栈开发14 小时前
【码动四季·秋】把 Spring Boot 的 Tomcat 换成 Undertow:一次容器替换的三处暗坑
spring boot·tomcat·容器化·依赖管理·undertow
川石课堂软件测试1 天前
学习软件测试需掌握的一些知识
数据库·python·sql·功能测试·网络协议·mysql·http
靠coding维持生计的potato1 天前
从HTTP到存储——文件上传的底层原理梳理
http
宁波阿成1 天前
CentOS 7 环境下 Tomcat 8.5 升级至 9.0.123 操作总结
linux·centos·tomcat
骑着蜗牛撵大象3272 天前
大模型 SDK 编译就崩?用 CMakeLists 把 httplib、JSON 与 OpenSSL 装配成可复用的 ChatServer
android·java·c++·http·json·cmake·大模型sdk