Apache Sqoop使用

高过蓝天的云2023-12-08 21:33

1. Sqoop介绍

Apache Sqoop 是在 Hadoop 生态体系和 RDBMS 体系之间传送数据的一种工具。

Sqoop 工作机制是将导入或导出命令翻译成 mapreduce 程序来实现。在翻译出的 mapreduce 中主要是对 inputformat 和 outputformat 进行定制。

Hadoop 生态系统包括：HDFS、Hive、Hbase 等

RDBMS 体系包括：MySQL、Oracle、DB2 等

Sqoop 可以理解为："SQL 到 Hadoop 和 Hadoop 到 SQL"。

站在 Apache 立场看待数据流转问题，可以分为数据的导入导出：

Import：数据导入。RDBMS----->Hadoop

Export：数据导出。Hadoop---->RDBMS

2. Sqoop导入------import

2.1 全量导入MySQL表数据到HDFS

从 MySQL 数据库服务器中的 userdb.emp 表导入到 HDFS。

sqoop 复制代码

bin/sqoop import \
--connect jdbc:mysql://node-1:3306/userdb \
--username root \
--password 123456 \
--delete-target-dir \
--target-dir /sqoopresult \
--table emp \	
--m 1

--target-dir 用来指定导出数据存放至 HDFS 的目录；

--m 用来指定导入时使用几个map任务进行并行；

。。。。。。

。。。。。

。。。。

。。。

。。

。

更多用法请参考： Sqoop详细使用