hive常用命令

可以直接从master节点访问数据

1. 访问数据

  1. 登录上master节点后切换到hadoop账号

    su hadoop

    sh 复制代码
    2. 访问hive
    直接输入hive可访问
    ```sh
    hive

2. 常见的命令

  1. 查看数据

    show databases;

  1. 切换数据库

    use saylo;

  1. 查看表

    show tables;

  1. 查看表结构

    desc t_big_prd_compress2_extract;

  1. 查询分区

    show partitions test_t_rec_scene_stats_10d;

  1. 查询内容

    select * from test_t_rec_scene_stats_10d limit 3;

  1. 查看建表语句

    show create table test_t_rec_scene_stats_10d;

  1. 删除表

    drop table if exists 表名;

  2. 清空表

    truncate table 表名;

4. 任务

所有的spark任务都是用crontab配置的,使用 crontab -l -u username 查看任务

复制代码
crontab -l -u root

crontab -e

5. 告警

告警面板;离线任务中每次执行完成,会发送一条 cls 日志;如果超过预定时长没有检测到日志则告警

告警面板链接

推荐离线moment静态表任务告警

6. 定时删除hive中数据

第一种方法: 设置表生命周期标识

alter table ${table_name} set tblproperties ('TABLE_LIFECYCLE'='365d');

第二种方法:定时任务删除:

shell 复制代码
END_DATE=$(date -d "$DEL_DATE +1 day" +"%Y-%m-%d")
HIVE_SQL="
ALTER TABLE $DATABASE.$TABLE
DROP PARTITION (datetime < '$END_DATE 00:00:00');
"

echo "【$(date '+%Y-%m-%d %H:%M:%S')】 正在删除 $DATABASE.$TABLE 中早于 $DEL_DATE 的分区..."
echo "【$(date '+%Y-%m-%d %H:%M:%S')】 执行 SQL: $HIVE_SQL"
相关推荐
fastjson_2 天前
Hive的介绍和使用
数据仓库·hive·hadoop
William Dawson7 天前
【踩坑实录|Hive1\.2\.1数据服务接口5大疑难问题调试与全方位优化方案】
java·hive·spring boot
牛奶咖啡1314 天前
大数据Hadoop运维应用实践——HIVE与Hadoop实现整合_Hive的配置安装与使用
大数据·hive·hive的配置与安装·metastore服务的配置·hiveserver2服务配置·hive的常用sql操作·beeline的使用
向夏威夷 梦断明暄16 天前
基于Tez引擎的 Hive SQL 性能优化
hive·sql·性能优化
humbinal23 天前
同时支持 gui & cli 的 parquet 文件查看工具,高性能小清新!
hive·python·rust·spark·开源·github·parquet
吾AI科技25 天前
基于Tez引擎的 Hive SQL 性能优化
大数据·hive·性能优化·tez
abcy0712131 个月前
hive 执行器原理
hive
香山上的麻雀10081 个月前
Hive内部表(MANAGED_TABLE)的“批量删除分区”特性详解
数据仓库·hive·hadoop
jjjava2.01 个月前
SpringMVC入门指南:从零掌握核心要点
数据仓库·hive·hadoop
AllData公司负责人1 个月前
数据库同步平台|AIIData数据中台实现OceanBase、达梦数据库、OpenGauss、人大金仓、Hive、TDengine 一键接入Doris
大数据·数据库·hive·mysql·oceanbase·tdengine