Hive/Spark 整库导出/导入脚本

1. 整库导出为一个SQL文件

bash 复制代码
database="<your-database-name>"

cat << EOF > $database.sql
drop database if exists $database cascade;
create database if not exists $database;
use $database;
EOF

for table in $(beeline -n hadoop -u jdbc:hive2:// --showHeader=false --outputformat=tsv2 -e "use $database; show tables;"); do 
    beeline -n hadoop -u jdbc:hive2:// --showHeader=false --outputformat=tsv2 -e "show create table $database.$table;" >> $database.sql
    echo ";" >> $database.sql
done

2. 从SQL文件导入数据库

bash 复制代码
spark-sql -f /path/to/your-exported-db.sql
相关推荐
阿里云大数据AI技术16 分钟前
EMR Serverless Spark 携手 PAI/百炼,开启“SQL 即 AI”的新篇章
sql·阿里云·spark·serverless·pai
jerryinwuhan16 分钟前
Spark安装配置2
大数据·分布式·spark
dinl_vin36 分钟前
一文通关Spark
大数据·分布式·spark
jerryinwuhan1 小时前
Spark RDD 编程入门
大数据·分布式·spark
smchaopiao1 天前
Hive中的排序与分桶技术详解
数据仓库·hive·hadoop
D愿你归来仍是少年3 天前
Apache Spark 第六章:执行计划与 DAG 调度
大数据·spark
Hello.Reader3 天前
PySpark DataFrame 快速入门创建、查询、分组、读写、SQL 实战一篇讲透
数据库·sql·spark
D愿你归来仍是少年3 天前
Apache Spark 第五章:Spark SQL 与 DataFrame
大数据·spark
tsyjjOvO4 天前
SpringMVC 从入门到精通
数据仓库·hive·hadoop
IvanCodes4 天前
Hive IDE连接及UDF实战
ide·hive·hadoop