大数据组件之Sqoop

Sqoop的主要功能:

1.从源端抽取数据导入到目标端

2.从源端导出数据到目标端

抽取的主要数据源:

1.Oracle数据库

2.Mysql数据库

3.Doris数据库

Sqoop的主要命令以及功能:

1.全量抽取

2.增量抽取

3.覆盖数据

常用命令:

比如:

sqoop import "-Dorg.apache.sqoop.splitter.allow_text_splitter=true" \

--hive-import \

--connect jdbc:oracle:thin:@XXXX:1521:ORACLE_DB \

--username XXX\

--password XXXX \

--hive-table XXXX \

--fields-terminated-by ',' \

-m 5 \

--hive-database XXXX

注意问题:

1.如果导入的数据表中的数据用逗号隔开,那么fields-terminated-by ',' 不能用',',换成其他的符号格式

2.如果导入的数据出现脏数据或者导入的目标端数据比源端数据多,那么可以增加如下参数:

sqoop import --connect jdbc:mysql://ip:9030/database --username root --password XXXX --table XXXX --m 1 --hive-import --hive-overwrite --hive-database database --hive-table XXXX --hive-drop-import-delims

注意:

1.如果在hue中执行,那么不能换行

2.如果在hue中执行,那么用tab键进行分割

3.如果出现脏数据或者null数据,那么增加参数: --hive-drop-import-delims

4.数据增量覆盖,增加--hive-overwrite

5.出现一个隐藏性的问题,就是缺少mysql驱动,需要增加驱动,才能进行数据抽取和全量读取

综上: 主要用来抽取大量数据

相关推荐
小七在进步3 小时前
string的实现(1)
c++·笔记·visual studio
保利威视频SaaS小张6 小时前
企业直播接入笔记 12|企业内训直播怎么做签到和学时统计,防挂机这件事比想象中难
java·前端·数据库·笔记·视频云·polvy·polyv
lcj25117 小时前
[C++] C++11
开发语言·c++·笔记
一条破秋裤9 小时前
【1117】【内存资源管控】【笔记】
android·笔记
qingwufeiyang_53011 小时前
Docker学习笔记2
笔记·学习
Z21-X12 小时前
云原生运维学习笔记:从操作系统底层到 Kubernetes 集群的深度实践
运维·笔记·学习·云原生·kubernetes
星恒随风12 小时前
MySQL 从零入门(七):索引原理与 B+ 树详解——从磁盘 I/O 到 InnoDB 聚簇索引
linux·服务器·数据库·笔记·mysql
希和20271 天前
江科大 51 单片机笔记:DS18B20 温度传感器 + LCD1602 显示代码详解
笔记·单片机·mongodb
Sakura_j_h_1 天前
MCP SDK 2.0 实战:用 MCPServer 搭本地笔记检索服务
开发语言·笔记·python·qt·ai工具·mcp·mcpserver
前进的李工1 天前
Agent 学习笔记 15:Agent 怎样响应事件与中途打断?
人工智能·笔记·agent·openclaw·工具设计·gpt-6 astra·原生异步