大数据组件之Sqoop

Sqoop的主要功能:

1.从源端抽取数据导入到目标端

2.从源端导出数据到目标端

抽取的主要数据源:

1.Oracle数据库

2.Mysql数据库

3.Doris数据库

Sqoop的主要命令以及功能:

1.全量抽取

2.增量抽取

3.覆盖数据

常用命令:

比如:

sqoop import "-Dorg.apache.sqoop.splitter.allow_text_splitter=true" \

--hive-import \

--connect jdbc:oracle:thin:@XXXX:1521:ORACLE_DB \

--username XXX\

--password XXXX \

--hive-table XXXX \

--fields-terminated-by ',' \

-m 5 \

--hive-database XXXX

注意问题:

1.如果导入的数据表中的数据用逗号隔开,那么fields-terminated-by ',' 不能用',',换成其他的符号格式

2.如果导入的数据出现脏数据或者导入的目标端数据比源端数据多,那么可以增加如下参数:

sqoop import --connect jdbc:mysql://ip:9030/database --username root --password XXXX --table XXXX --m 1 --hive-import --hive-overwrite --hive-database database --hive-table XXXX --hive-drop-import-delims

注意:

1.如果在hue中执行,那么不能换行

2.如果在hue中执行,那么用tab键进行分割

3.如果出现脏数据或者null数据,那么增加参数: --hive-drop-import-delims

4.数据增量覆盖,增加--hive-overwrite

5.出现一个隐藏性的问题,就是缺少mysql驱动,需要增加驱动,才能进行数据抽取和全量读取

综上: 主要用来抽取大量数据

相关推荐
凤年徐27 分钟前
【数据结构】时间复杂度和空间复杂度
c语言·数据结构·c++·笔记·算法
茫忙然43 分钟前
【WEB】Polar靶场 Day8 详细笔记
笔记
飞升不如收破烂~1 小时前
英语笔记1.0
笔记
ozawacai1 小时前
markdown学习笔记(个人向) Part.1
笔记·学习
喝可乐的布偶猫1 小时前
Java-----韩顺平单例设计模式学习笔记
java·笔记·设计模式
笑衬人心。2 小时前
Java 17 新特性笔记
java·开发语言·笔记
序属秋秋秋3 小时前
《C++初阶之内存管理》【内存分布 + operator new/delete + 定位new】
开发语言·c++·笔记·学习
quant_19865 小时前
R语言如何接入实时行情接口
开发语言·经验分享·笔记·python·websocket·金融·r语言
宝山哥哥10 小时前
网络信息安全学习笔记1----------网络信息安全概述
网络·笔记·学习·安全·网络安全
逼子格12 小时前
逻辑门电路Multisim电路仿真汇总——硬件工程师笔记
笔记·硬件工程师·multisim·电路仿真·逻辑门·硬件工程师学习·电路图