Hive/Spark 整库导出/导入脚本

1. 整库导出为一个SQL文件

bash 复制代码
database="<your-database-name>"

cat << EOF > $database.sql
drop database if exists $database cascade;
create database if not exists $database;
use $database;
EOF

for table in $(beeline -n hadoop -u jdbc:hive2:// --showHeader=false --outputformat=tsv2 -e "use $database; show tables;"); do 
    beeline -n hadoop -u jdbc:hive2:// --showHeader=false --outputformat=tsv2 -e "show create table $database.$table;" >> $database.sql
    echo ";" >> $database.sql
done

2. 从SQL文件导入数据库

bash 复制代码
spark-sql -f /path/to/your-exported-db.sql
相关推荐
Light6030 分钟前
数据要素与数据知识产权交易中心建设专项方案——以领码 SPARK 融合平台为技术底座,构建可评估、可验证、可交易、可监管的数据要素工程体系
大数据·分布式·spark
Hello.Reader7 小时前
Flink SQL 的 LOAD MODULE 深度实战——加载 Hive 模块、理解模块发现与常见坑
hive·sql·flink
毕设源码-钟学长12 小时前
【开题答辩全过程】以 基于Spark机器学习算法的体育新闻智能分类系统设计与实现为例,包含答辩的问题和答案
算法·机器学习·spark
howard20051 天前
Hive实战任务 - 9.1 实现词频统计
hive·词频统计
满目山河•1 天前
二、复制三台虚拟机
hive·hadoop·hbase
howard20051 天前
Hive实战任务 - 9.3 实现学生信息排序和统计
hive·排序·汇总·学生信息
番茄撒旦在上1 天前
什么样的表适合做拉链表
大数据·数据仓库·hive
howard20051 天前
Hive实战任务 - 9.5 实现网址去重
hive·网址去重
howard20051 天前
Hive实战任务 - 9.4 分科汇总求月考平均分
hive·分科汇总月考平均分
howard20051 天前
Hive实战任务 - 9.2 统计总分与平均分
hive·统计总分与平均分