sqoop将MySQL数据导入hive

使用脚本加载数据

MySQL有一张表

hive创建一张相同的表

编写脚本同步数据

bash 复制代码
[root@master sqoop]# vim stu.sh


#!/bin/bash
SQOOP=/usr/local/soft/sqoop-1.4.6/bin/sqoop
$SQOOP import --connect jdbc:mysql://192.168.67.100:3306/sqoop \
       --username root \
       --password 123456 \
       --query "select sid,sname  from stu where 1=1 and \$CONDITIONS" \
       -m 3 \
       --target-dir "/user/hive/warehouse/test.db/stu" \
       --split-by sid \
       --delete-target-dir  \
       --fields-terminated-by '\t'

[root@master sqoop]# chmod +x stu.sh


[root@master sqoop]# vim stu.sh

注释;

1)SQOOP路径

2)MySQL地址 端口号 数据库名

3)用户名

4)密码

5)SQL语句

6)hive的表路径(登录Hadoop网页 查看)

7)分隔符

执行成功 查看数据

相关推荐
神龙天舞20015 小时前
MySQL 备库为什么会延迟好几个小时
android·数据库·mysql
每天都要进步哦10 小时前
SQL单行函数详解:字符、数字、日期、转换与通用函数全解析
数据库·mysql
南凉北往11 小时前
PandasAI连接LLM对MySQL数据库进行数据分析
数据库·mysql·数据分析
【心态好不摆烂】14 小时前
MySQL——复合查询
数据库·mysql
瞬间&永恒~14 小时前
【MySQL】 InnoDB 锁等待排查与并发压测实验
运维·数据库·mysql
烟漠河洛15 小时前
俄罗斯电商3200亿卢布疯长:跨境支付与多平台订单系统架构解析
mysql·php
总捣什么乱116 小时前
MySQL MySQL是怎么保证主备一致的?
android·mysql·adb
鹿鸣天涯18 小时前
应急响应:MySQL日志分析
mysql·安全·adb·oracle
学编程就要猛18 小时前
解析博客系统后端实现
java·mysql·jwt·摘要算法·加盐
9624561 天前
从 DBeaver 内存溢出到流式导入:一个 MySQL 生产数据迁移工具的开发实战
数据库·mysql·adb