Hive/Spark 整库导出/导入脚本

1. 整库导出为一个SQL文件

bash 复制代码
database="<your-database-name>"

cat << EOF > $database.sql
drop database if exists $database cascade;
create database if not exists $database;
use $database;
EOF

for table in $(beeline -n hadoop -u jdbc:hive2:// --showHeader=false --outputformat=tsv2 -e "use $database; show tables;"); do 
    beeline -n hadoop -u jdbc:hive2:// --showHeader=false --outputformat=tsv2 -e "show create table $database.$table;" >> $database.sql
    echo ";" >> $database.sql
done

2. 从SQL文件导入数据库

bash 复制代码
spark-sql -f /path/to/your-exported-db.sql
相关推荐
B站计算机毕业设计超人1 天前
计算机毕业设计Django+Vue.js音乐推荐系统 音乐可视化 大数据毕业设计 (源码+文档+PPT+讲解)
大数据·vue.js·hadoop·python·spark·django·课程设计
十月南城1 天前
数据湖技术对比——Iceberg、Hudi、Delta的表格格式与维护策略
大数据·数据库·数据仓库·hive·hadoop·spark
王九思1 天前
Hive Thrift Server 介绍
数据仓库·hive·hadoop
Asher05091 天前
Hive核心知识:从基础到实战全解析
数据仓库·hive·hadoop
xhaoDream1 天前
Hive3.1.3 配置 Tez 引擎
大数据·hive·tez
Asher05091 天前
Spark核心基础与架构全解析
大数据·架构·spark
一号IT男4 天前
Hive中GROUPING SETS功能详解
数据仓库·hive·hadoop
500佰4 天前
Hive常见故障多案例FAQ宝典 --项目总结(宝典一)
大数据·linux·数据仓库·hive·hadoop·云计算·运维开发
FYKJ_20105 天前
springboot大学校园论坛管理系统--附源码42669
java·javascript·spring boot·python·spark·django·php