sqoop将MySQL数据导入hive

使用脚本加载数据

MySQL有一张表

hive创建一张相同的表

编写脚本同步数据

bash 复制代码
[root@master sqoop]# vim stu.sh


#!/bin/bash
SQOOP=/usr/local/soft/sqoop-1.4.6/bin/sqoop
$SQOOP import --connect jdbc:mysql://192.168.67.100:3306/sqoop \
       --username root \
       --password 123456 \
       --query "select sid,sname  from stu where 1=1 and \$CONDITIONS" \
       -m 3 \
       --target-dir "/user/hive/warehouse/test.db/stu" \
       --split-by sid \
       --delete-target-dir  \
       --fields-terminated-by '\t'

[root@master sqoop]# chmod +x stu.sh


[root@master sqoop]# vim stu.sh

注释;

1)SQOOP路径

2)MySQL地址 端口号 数据库名

3)用户名

4)密码

5)SQL语句

6)hive的表路径(登录Hadoop网页 查看)

7)分隔符

执行成功 查看数据

相关推荐
huhy~2 小时前
基于CentOS7.9搭建MySQL高可用集群【MGR单主】
数据库·mysql
不想写bug呀13 小时前
MySQL索引介绍
数据库·mysql
北辰当尹14 小时前
【小迪安全2023】day42 php应用&mysql架构&sql注入&跨库查询&文件读写&权限操作
mysql·安全·php
Gain_chance15 小时前
23-学习笔记尚硅谷数仓搭建-ODS层业务全量表、增量表结构设计及数据装载脚本
数据仓库·hive·笔记·学习
从天而降的扣篮16 小时前
MySQL自动添加分区表的函数
数据库·mysql
悄悄敲敲敲16 小时前
MySQL 事务
数据库·mysql
Linux蓝魔17 小时前
外网同步清华源mysql到内网搭建mysql源
数据库·mysql
Dxy123931021618 小时前
告别默认排序:MySQL自定义排序的“炼金术”
android·数据库·mysql
Chan1618 小时前
《MYSQL技术内幕》| InnoDB存储引擎与日志文件
java·大数据·spring boot·mysql·架构·java-ee·intellij-idea
无限码力18 小时前
华为OD技术面真题 - 数据库Mysql - 1
mysql·华为od·华为od技术面真题·华为od技术面八股·华为od技术面mysql八股