StarRocks 排查单副本表

文章目录

    • [StarRocks 排查单副本表](#StarRocks 排查单副本表)
      • [方式1 查询元数据,检查分区级的副本数](#方式1 查询元数据,检查分区级的副本数)
      • [方式2 SHOW PARTITIONS命令查看 ReplicationNum](#方式2 SHOW PARTITIONS命令查看 ReplicationNum)
      • 修改副本数命令

StarRocks 排查单副本表

方式1 查询元数据,检查分区级的副本数

sql 复制代码
# 方式一 查询元数据,检查分区级的副本数
with v_tmp1 as (
  select
    TABLE_ID, PARTITION_ID, tablet_id, count(*) as cnt
  from
    information_schema.be_tablets
  group by
    TABLE_ID, PARTITION_ID, tablet_id
  having
    count(*) = 1
) 
select /*+ set_var(query_timeout = 20) */
  distinct t1.TABLE_SCHEMA, t1.TABLE_NAME
from information_schema.tables_config t1 
join v_tmp1 t2 on t1.TABLE_ID = t2.TABLE_ID
;

方式2 SHOW PARTITIONS命令查看 ReplicationNum

shell 复制代码
# 方式二 遍历所有库表SHOW PARTITIONS命令查看 ReplicationNum
SHOW  PARTITIONS FROM [db_name.]table_name WHERE ReplicationNum = 1

修改副本数命令

shell 复制代码
# 修改副本数命令
# 修改表基本副本数
ALTER TABLE example_db.my_table SET ("default.replication_num" = "2");
# 单分区副本数
ALTER TABLE example_db.my_table SET ("replication_num" = "2");
# 历史分区副本数
ALTER TABLE example_db.my_table MODIFY PARTITION (*) SET("replication_num"="2");

遍历所有库表执行SHOW PARTITIONS命令

python 复制代码
import pymysql
import logging
logging.basicConfig(level=logging.INFO,
                    format='%(asctime)s %(filename)s[line:%(lineno)d] %(levelname)s %(message)s',
                    filemode='a',
                    filename='./sr.log'
                    )

ip = '10.xx'
port = 9030
user = 'xx'
passwd = 'xx'
database = 'information_schema'

class MysqlUtils(object):
    def __init__(self, ip, port, user, passwd, database):
        self.ip = ip
        self.port = port
        self.user = user
        self.passwd = passwd
        self.database = database
        self.conn = None
        self.cur = None
        try:
            self.conn = pymysql.connect(host=self.ip, user=self.user, passwd=self.passwd, port=self.port,
                                        charset='utf8', database=self.database)
        except Exception as e:
            logging.error("连接失败:{}".format(e))
        if self.conn:
            self.cur = self.conn.cursor()

    def close(self):
        if self.cur:
            self.cur.close()
        if self.conn:
            self.conn.close()

    def insert_data(self, sql, data):
        if self.cur:
            # cur = conn.cursor(pymysql.cursors.DictCursor)
            try:
                self.cur.executemany(sql, data)
            except pymysql.Error as e:
                logging.error("executemany执行失败:{}".format(e))
                self.conn.rollback()
                self.conn.close()
            self.conn.commit()


    def select_data(self,sql):
        if self.cur:
            self.cur.execute(sql)
            res = self.cur.fetchall()
            return res


def start():

    obj = MysqlUtils(ip, port, user, passwd, database)
    sql1 = "show databases;"
    dbs = obj.select_data(sql1)  # (('_statistics_',), ('ads_biz',))
    dbs = [d[0] for d in dbs if d[0] not in ('_statistics_','information_schema')]
	resu = list()
    for db in dbs:

        sql2 = "show tables from {}".format(db)
        tables = obj.select_data(sql2)
        tables = [t[0] for t in tables]
        # print(tables)

        for table in tables:
            # sql3 = "show create table `{}`.`{}`".format(db,table)
            # sql3 = """ ALTER TABLE `{}`.`{}` MODIFY PARTITION (*) SET("replication_num"="2"); """ .format(db,table)
            sql3 = "SHOW  PARTITIONS FROM `{}`.`{}` WHERE ReplicationNum = 1".format(db,table)
            logging.info(sql3)
            try:
                res = obj.select_data(sql3)  
            except Exception as e:
                logging.error(e)
            if res:
                resu.append(res)
    obj.close()
相关推荐
镜舟科技1 天前
镜舟科技出席 HPE 新品发布会,携手打造“Lakehouse + AI”智能数据底座
starrocks·数据分析·ai agent·lakehouse·hpe
镜舟科技1 天前
从 Prompt 到 Context Engineering:如何用 StarRocks 构建 AI Agent 的实时上下文引擎?
starrocks·大模型·prompt·ai agent·数据基础设施·上下文工程
StarRocks_labs1 天前
StarRocks × Iceberg:联邦查询实践解析
数据库·starrocks·sql·iceberg·物化视图
StarRocks_labs4 天前
AutoMQ x StarRocks: 英国美容健康领导者 Fresha 如何构建现代化实时分析数据栈
starrocks·olap·automq·fresha·kafk
阿里云大数据AI技术8 天前
最佳实践:用 EMR Serverless StarRocks AI Function 实现金融行业文本分类_
starrocks·人工智能·sql·阿里云·ai function
鸿乃江边鸟11 天前
Starrocks BE 在Mac编译以及遇到的问题解决
starrocks·mac·编译
想ai抽18 天前
StarRocks 存储引擎设计深度调研笔记
大数据·starrocks·olap
胖胖胖胖胖虎19 天前
okhttp Stream Load 含认证请求重定向
starrocks·okhttp
涤生大数据19 天前
Doris/StarRocks 高频面试题通关指南
大数据·starrocks·数仓·数据科学·大数据开发·diris