Hive/Spark 整库导出/导入脚本

1. 整库导出为一个SQL文件

bash 复制代码
database="<your-database-name>"

cat << EOF > $database.sql
drop database if exists $database cascade;
create database if not exists $database;
use $database;
EOF

for table in $(beeline -n hadoop -u jdbc:hive2:// --showHeader=false --outputformat=tsv2 -e "use $database; show tables;"); do 
    beeline -n hadoop -u jdbc:hive2:// --showHeader=false --outputformat=tsv2 -e "show create table $database.$table;" >> $database.sql
    echo ";" >> $database.sql
done

2. 从SQL文件导入数据库

bash 复制代码
spark-sql -f /path/to/your-exported-db.sql
相关推荐
!chen15 小时前
大数据技术领域发展与Spark的性能优化
大数据·性能优化·spark
無森~17 小时前
Hive概述
数据仓库·hive·hadoop
無森~17 小时前
Hive下载与安装
数据仓库·hive·hadoop
大鳥17 小时前
Hive on Spark SQL 性能优化权威指南
hive·sql·spark
無森~17 小时前
Hive输出表信息中文乱码解决方案
数据仓库·hive·hadoop
Lansonli18 小时前
大数据Spark(七十七):Action行动算子first、collect和collectAsMap使用案例
大数据·分布式·spark
计算机毕业编程指导师18 小时前
【计算机毕设选题】基于Spark的拉勾网招聘数据分析系统源码,Python+Django全流程
大数据·hadoop·python·spark·django·招聘·拉勾网
B站计算机毕业设计超人1 天前
计算机毕业设计Python+百度千问大模型微博舆情分析预测 微博情感分析可视化 大数据毕业设计(源码+LW文档+PPT+讲解)
大数据·hive·hadoop·python·毕业设计·知识图谱·课程设计
王九思2 天前
大数据查询工具Hive介绍
大数据·hive·hadoop
王九思2 天前
Hive Hook 机制
数据仓库·hive·hadoop