Hive/Spark 整库导出/导入脚本

1. 整库导出为一个SQL文件

bash 复制代码
database="<your-database-name>"

cat << EOF > $database.sql
drop database if exists $database cascade;
create database if not exists $database;
use $database;
EOF

for table in $(beeline -n hadoop -u jdbc:hive2:// --showHeader=false --outputformat=tsv2 -e "use $database; show tables;"); do 
    beeline -n hadoop -u jdbc:hive2:// --showHeader=false --outputformat=tsv2 -e "show create table $database.$table;" >> $database.sql
    echo ";" >> $database.sql
done

2. 从SQL文件导入数据库

bash 复制代码
spark-sql -f /path/to/your-exported-db.sql
相关推荐
橘子编程11 小时前
Hive大数据实战指南:从入门到精通
大数据·hive·hadoop
橘子编程16 小时前
Apache Hadoop知识全解析
大数据·hive·hadoop·apache
dovens16 小时前
Spring Boot 从 2.7.x 升级到 3.3注意事项
数据库·hive·spring boot
Joy T3 天前
【大数据】离线数仓核心组件:Hive 架构解析与进阶操作指南
大数据·数据仓库·hive·hadoop·架构
jasnet_u3 天前
在Hadoop3.3.6上搭建Hive3.1.2
hive·hadoop
talen_hx2963 天前
《零基础入门Spark》学习笔记 Day 11
笔记·学习·spark
howard20053 天前
2.2.2.2 使用Spark单机版环境
spark·单机版环境
SuperHeroWu73 天前
【Neo4j】图数据库通过浏览器加载csv文件导入踩坑记录
数据库·neo4j·图数据库·csv·导入·踩坑·记录
howard20053 天前
2.2.2.3 Spark实战:词频统计
spark·pyspark·词频统计·spark-shell
howard20053 天前
2.2.2.1 搭建Spark单机版环境
spark·单机版环境