数仓现网案例丨超大结果集接收异常

本文分享自华为云社区《GaussDB(DWS)现网案例之超大结果集接收异常》，作者：你是猴子请来的救兵吗。

问题背景

内核版本 GaussDB 8.1.3

问题描述 用户使用数据库客户端工具如navicat、dbeaver等执行查询语句异常中断，中断信息"Last read message sequence %d is not equal to the max written message sequence %d"

问题定位

客户端异常中断后有些错误信息时不感知的，此时topsql就派上了用场。历史topsql记录了查询作业运行结束时的资源使用情况(包括内存、下盘、CPU时间等)和运行状态信息(包括报错、终止、异常等)以及性能告警信息。而对于由于FATAL、PANIC错误导致查询异常结束时，状态信息列只显示aborted，无法记录详细异常信息。

1，此时我们通过历史topsql查询视图查询语句执行情况

sql 复制代码

--当前CN

select * from GS_WLM_SESSION_HISTORY;

--所有CN

select * from PGXC_WLM_SESSION_HISTORY;

根据topsql记录结果发现语句存在abort_info为

perl 复制代码

Last read message sequence %d is not equal to the max written message sequence %d

可知，查询执行遇到FATAL、PANIC错误导致查询异常结束

2，接着确认日志信息，通过线程ID查看当时语句执行情况，发现客户端存在异常中断

根因分析

前提：

cn_retry开启+查询语句+max_cn_temp_file_size临时文件开启

发送逻辑：

服务端执行查询之后，会通过发送缓冲区往客户端发送数据；当查询结果集过大，则发送缓冲区满了之后，会往临时文件写数据；当临时文件超出max_cn_temp_file_size指定的最大值时（此时会禁用cn_retry），需要分批发送，此时会先将已写入临时文件的数据发送至客户端；然后继续将剩余数据写入新的临时文件发送，以此循环，直到所有数据发送完成。

问题场景：

当临时文件超出最大值时，先将其发送至客户端，此时客户端断连（如产生oom），数据发送中断，此时已发送数据量与已写入临时文件的数据量不一致，因此产生报错

perl 复制代码

Last read message sequence %d is not equal to the max written message sequence %d

此报错代表已写入临时文件的数据与已发送到客户端的数据量不一致，实际场景为客户端异常导致的发送数据中断，因此报错内容符合预期。

2，异常中断场景

此时客户端环境允许的数据量优先，超大结果集将分批发送的过程中，客户端触发OOM异常中断，服务端会记录客户端异常发送失败信息以及已发送数据不一致的错误信息。

改善办法

1，避免超大结果集的查询，如果无法避免，则通过分页或游标多次查询

2，增大客户端支持的运行内存，防止内存不足

知识小结

1，报错Last read message sequence %d is not equal to the max written message sequence %d为超大结果集返回异常中断时的报错，符合预期，需通过业务语句的改写或客户端环境的改善来解决。

2，TopSQL查询监控的原理和适用方法可参考：GaussDB for DWS 资源监控核心技术解密： TopSQL查询监控解密

点击关注，第一时间了解华为云新鲜技术~

数仓现网案例丨超大结果集接收异常

问题背景

问题定位

根因分析

前提：

发送逻辑：

问题场景：

相关知识

相关guc参数：

相关日志记录：

场景复现

1，正常接收场景

2，异常中断场景

改善办法

知识小结