sqoop将MySQL数据导入hive

使用脚本加载数据

MySQL有一张表

hive创建一张相同的表

编写脚本同步数据

bash 复制代码
[root@master sqoop]# vim stu.sh


#!/bin/bash
SQOOP=/usr/local/soft/sqoop-1.4.6/bin/sqoop
$SQOOP import --connect jdbc:mysql://192.168.67.100:3306/sqoop \
       --username root \
       --password 123456 \
       --query "select sid,sname  from stu where 1=1 and \$CONDITIONS" \
       -m 3 \
       --target-dir "/user/hive/warehouse/test.db/stu" \
       --split-by sid \
       --delete-target-dir  \
       --fields-terminated-by '\t'

[root@master sqoop]# chmod +x stu.sh


[root@master sqoop]# vim stu.sh

注释;

1)SQOOP路径

2)MySQL地址 端口号 数据库名

3)用户名

4)密码

5)SQL语句

6)hive的表路径(登录Hadoop网页 查看)

7)分隔符

执行成功 查看数据

相关推荐
leo_yu_yty21 小时前
Mysql 面试准备
数据库·mysql·面试
冰暮流星1 天前
mysql练习1
数据库·mysql
蜀道山老天师1 天前
Zabbix监控MySQL与Redis应用实践完整指南
linux·运维·redis·mysql·zabbix
NJCloud2 天前
TiDB 集群部署与 MySQL 兼容性适配实战
linux·运维·数据库·mysql·tidb
wear工程师2 天前
Redis 和 MySQL 缓存一致性,延迟双删为什么不是强一致
redis·mysql
这个DBA有点耶2 天前
数据库迁移灰度验证:从读流量到双写再到全量切换的完整路径
数据库·mysql·架构
01_ice2 天前
MySQL事务
数据库·mysql
旺旺仙贝呦2 天前
MySQL__MongoDB__Redis 入门
redis·mysql·mongodb
隔窗听雨眠2 天前
MySQL索引机制深度解析:从B+树原理到高并发查询优化的完整指南
数据库·b树·mysql