源码解析丨一次慢SQL排查

long_query_time=1时(表info的id为主键),出现下面的慢日志,可能会让你吃惊

sql 复制代码
# Time: 2024-01-28T22:52:24.500491+08:00
# User@Host: root[root] @  [127.0.0.1]  Id:     8
# Query_time: 7.760787  Lock_time: 7.757456 Rows_sent: 0  Rows_examined: 0
use apple;
SET timestamp=1706453536;
delete from info where id < 10;

环境信息

配置 参数
ip 172.17.137.12
hostname dev
memory 16G
cpu 8C
MySQL version GreatSQL 8.0.26

慢查询相关参数

sql 复制代码
greatsql> select * from performance_schema.global_variables where variable_name in('slow_query_log','log_output','slow_query_log_file','long_query_time','log_queries_not_using_indexes','log_slow_admin_statements','min_examined_row_limit','log_throttle_queries_not_using_indexes') order by variable_name;
+----------------------------------------+-------------------------------------+
| VARIABLE_NAME                          | VARIABLE_VALUE                      |
+----------------------------------------+-------------------------------------+
| log_output                             | FILE                                |
| log_queries_not_using_indexes          | OFF                                 |
| log_slow_admin_statements              | OFF                                 |
| log_throttle_queries_not_using_indexes | 0                                   |
| long_query_time                        | 1.000000                            |
| min_examined_row_limit                 | 0                                   |
| slow_query_log                         | ON                                  |
| slow_query_log_file                    | /root/local/8026/log/slow.log       |
+----------------------------------------+-------------------------------------+
8 rows in set (10.49 sec)
  • slow_query_log:慢日志开关

  • log_output:慢日志存储方式,FILE或TABLE

  • long_query_time:慢日志阈值

  • min_examined_row_limit:设置慢SQL的最小examined扫描行数,建议设置为0,因为有bug:bugs.mysql.com/bug.php?id=...

  • log_queries_not_using_indexes:不使用索引的慢查询日志是否记录到索引

  • log_slow_admin_statements:在写入慢速查询日志的语句中包含慢速管理语句(create index,drop index,alter table,analyze table,check table,optimize table,repair table)默认是不会记录的

  • log_throttle_queries_not_using_indexes:用于限制每分钟输出未使用索引的日志数量。每分钟允许记录到slow log的且未使用索引的sql语句次数,配合long_queries_not_using_indexes开启使用。

  • log_slow_slave_statements:默认OFF,是否开启主从复制中从库的慢查询

根本原因

一、慢日志写入大致流程

  • dispatch_command(thd)

    • thd->enable_slow_log = true // 初始化enable_slow_log为true

    • thd->set_time // 设置开始时间

    • dispatch_sql_command

    • parse_sql // 语法解析

    • mysql_execute_command // 执行SQL

      • lex->m_sql_cmd->execute // 常见的CRUD操作
    • thd->update_slow_query_status // 判断是否达到慢日志阈值。若为慢查询,则更新thd的server_status状态,为写slow_log作准备

    • log_slow_statement

    • log_slow_applicable // 判断是否写入慢日志

      • log_slow_do // 开始写入

        • slow_log_write

          • log_slow

          • write_slow

二、判断是否达到慢日志阈值

  • 8.0.26版本的慢日志判断标准
c++ 复制代码
void THD::update_slow_query_status() {
  if (my_micro_time() > utime_after_lock + variables.long_query_time)
    server_status | = SERVER_QUERY_WAS_SLOW;
}
// my_micro_time() 获取当前系统时间点,单位为微妙
// utime_after_lock 为MDL LOCK和row lock等待时间后的时间点,单位为微妙
// variables.long_query_time 慢日志阈值long_query_time * 1000000 ,单位为微妙
// 等价于:my_micro_time() - utime_after_lock  > variables.long_query_time
// 不包含锁等待时间
  • 8.0.32版本的慢日志判断标准(8.0.28开始)
c++ 复制代码
void THD::update_slow_query_status() {
  if (my_micro_time() > start_utime + variables.long_query_time)
    server_status | = SERVER_QUERY_WAS_SLOW;
}
// 判别标准变成了:(语句执行结束的时间 - 语句开始执行时间) > 慢日志阈值
// my_micro_time() 当前系统时间点,单位为微妙
// start_utime:语句开始执行时间点,单位为微妙
// variables.long_query_time 慢日志阈值long_query_time * 1000000 ,单位为微妙
// 包含锁等待时间

从上面可以看出慢日志的判断标准发生了根本变化

举例说明

sql 复制代码
greatsql> select * from info;
+----+------+
| id | name |
+----+------+
|  1 |    1 |
|  2 |    2 |
|  5 |    5 |
| 60 |    8 |
| 40 |   11 |
| 20 |   20 |
| 30 |   30 |
+----+------+
7 rows in set (0.05 sec)

greatsql> show create table info\G
*************************** 1. row ***************************
       Table: info
Create Table: CREATE TABLE `info` (
  `id` int NOT NULL AUTO_INCREMENT,
  `name` int NOT NULL,
  PRIMARY KEY (`id`),
  UNIQUE KEY `uk_name` (`name`)
) ENGINE=InnoDB AUTO_INCREMENT=61 DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci
1 row in set (0.02 sec) 
session1 session2
begin;
delete from info where id < 10;
delete from info where id < 10;
session1等待一段时间超过慢日志阈值long_query_time
rollback;

• 在8.0.26版本中,是不会记录session2中的delete from info where id < 10

• 在8.0.32版本中,会记录session2中的delete from info where id < 10

三、判断是否写入慢日志

C++ 复制代码
void log_slow_statement(THD *thd,
                        struct System_status_var *query_start_status) {
  if (log_slow_applicable(thd)) log_slow_do(thd, query_start_status);
}


//----------------------------------------------------------------

bool log_slow_applicable(THD *thd) {
  DBUG_TRACE;

  /*
    The following should never be true with our current code base,
    but better to keep this here so we don't accidently try to log a
    statement in a trigger or stored function
  */
  if (unlikely(thd->in_sub_stmt)) return false;  // Don't set time for sub stmt

  if (unlikely(thd->killed == THD::KILL_CONNECTION)) return false;

  /*
    Do not log administrative statements unless the appropriate option is
    set.
  */
  if (thd->enable_slow_log && opt_slow_log) {
    bool warn_no_index =
        ((thd->server_status &
          (SERVER_QUERY_NO_INDEX_USED | SERVER_QUERY_NO_GOOD_INDEX_USED)) &&
         opt_log_queries_not_using_indexes &&
         !(sql_command_flags[thd->lex->sql_command] & CF_STATUS_COMMAND));
    bool log_this_query =
        ((thd->server_status & SERVER_QUERY_WAS_SLOW) || warn_no_index) &&
        (thd->get_examined_row_count() >=
         thd->variables.min_examined_row_limit);
    bool suppress_logging = log_throttle_qni.log(thd, warn_no_index);

    if (!suppress_logging && log_this_query) return true;
  }
  return false;
}
  • 若log_slow_applicable(thd)返回值为true,则执行log_slow_do(thd, query_start_status),写入慢日志

  • if (unlikely(thd->in_sub_stmt)) return false;if (unlikely(thd->killed == THD::KILL_CONNECTION)) return false;

​ a. 子查询,返回false

​ b. 被kill,返回false

​ c. 解析出错,返回false

​ d. 执行出错,返回false

  • warn_no_index 表示log_queries_not_using_indexes开启且(未使用索引或未使用最优索引)

    • thd->server_status 该线程状态

    • SERVER_QUERY_NO_INDEX_USED 表示未使用索引

    • SERVER_QUERY_NO_GOOD_INDEX_USED 表示未使用最优索引

    • opt_log_queries_not_using_indexes 表示log_queries_not_using_indexes参数的值,默认OFF

  • !(sql_command_flags[thd->lex->sql_command] & CF_STATUS_COMMAND))表示该语句不是SHOW相关的命令。CF_STATUS_COMMAND常量表示执行的命令为show相关的命令。

  • log_this_query = ((thd->server_status & SERVER_QUERY_WAS_SLOW) || warn_no_index) && (thd->get_examined_row_count() >=thd->variables.min_examined_row_limit);

    • (thd->server_status & SERVER_QUERY_WAS_SLOW) 表示该SQL为慢查询

    • (thd->get_examined_row_count() >=thd->variables.min_examined_row_limit) 表示SQL的扫描数据行数不小于参数min_examined_row_limit 的值,默认为0

  • log_throttle_qni.log(thd, warn_no_index) 表示用来计算该条未使用索引的SQL是否需要写入到slow log,计算需要使用到参数log_throttle_queries_not_using_indexes , 该参数表明允许每分钟写入到slow log中的未使用索引的SQL的数量,默认值为0,表示不限制

按照线上配置

  • log_throttle_queries_not_using_indexes = 0

  • log_queries_not_using_indexes = OFF

  • log_slow_admin_statements = OFF

  • min_examined_row_limit = 0

  • slow_query_log = ON

  • long_query_time = 1.000000

那么在GreatSQL-8.0.26中,是否写入到慢日志中,取决于thd->server_status & SERVER_QUERY_WAS_SLOW,即SQL执行总耗时-SQL锁等待耗时>1秒

那么在GreatSQL-8.0.32中,是否写入到慢日志中,取决于thd->server_status & SERVER_QUERY_WAS_SLOW,即SQL执行总耗时>1秒


Enjoy GreatSQL :)

关于 GreatSQL

GreatSQL是适用于金融级应用的国内自主开源数据库,具备高性能、高可靠、高易用性、高安全等多个核心特性,可以作为MySQL或Percona Server的可选替换,用于线上生产环境,且完全免费并兼容MySQL或Percona Server。

相关链接: GreatSQL社区 Gitee GitHub Bilibili

GreatSQL社区:

社区有奖建议反馈: greatsql.cn/thread-54-1...

社区博客有奖征稿详情: greatsql.cn/thread-100-...

(对文章有疑问或者有独到见解都可以去社区官网提出或分享哦~)

技术交流群:

微信&QQ群:

QQ群:533341697

微信群:添加GreatSQL社区助手(微信号:wanlidbc )好友,待社区助手拉您进群。

相关推荐
小白学大数据1 分钟前
JavaScript重定向对网络爬虫的影响及处理
开发语言·javascript·数据库·爬虫
time never ceases22 分钟前
使用docker方式进行Oracle数据库的物理迁移(helowin/oracle_11g)
数据库·docker·oracle
Frank牛蛙26 分钟前
1.每日SQL----2024/11/7
数据库·sql
Ciderw28 分钟前
块存储、文件存储和对象存储详细介绍
网络·数据库·nvme·对象存储·存储·块存储·文件存储
薛晓刚29 分钟前
数据库优化指南:如何将基本功能运用到极致?
数据库
stars_User32 分钟前
MySQL数据库面试题(下)
数据库·mysql
未来之窗软件服务1 小时前
sql速度优化多条合并为一条语句
数据库
山东布谷科技官方1 小时前
布谷直播源码部署服务器关于数据库配置的详细说明
运维·服务器·数据库·直播系统源码·直播源码·直播系统搭建·直播软件开发
易云码1 小时前
信息安全建设方案,网络安全等保测评方案,等保技术解决方案,等保总体实施方案(Word原件)
数据库·物联网·安全·web安全·低代码
newxtc1 小时前
【客观理性深入讨论国产中间件及数据库-科创基础软件】
数据库·中间件·国产数据库·国产中间件·科创