sqoop将MySQL数据导入hive

使用脚本加载数据

MySQL有一张表

hive创建一张相同的表

编写脚本同步数据

bash 复制代码
[root@master sqoop]# vim stu.sh


#!/bin/bash
SQOOP=/usr/local/soft/sqoop-1.4.6/bin/sqoop
$SQOOP import --connect jdbc:mysql://192.168.67.100:3306/sqoop \
       --username root \
       --password 123456 \
       --query "select sid,sname  from stu where 1=1 and \$CONDITIONS" \
       -m 3 \
       --target-dir "/user/hive/warehouse/test.db/stu" \
       --split-by sid \
       --delete-target-dir  \
       --fields-terminated-by '\t'

[root@master sqoop]# chmod +x stu.sh


[root@master sqoop]# vim stu.sh

注释;

1)SQOOP路径

2)MySQL地址 端口号 数据库名

3)用户名

4)密码

5)SQL语句

6)hive的表路径(登录Hadoop网页 查看)

7)分隔符

执行成功 查看数据

相关推荐
2401_834636991 小时前
从零开始学 MySQL:SQL 编程、多表查询、用户管理一站式教程
mysql
2601_962074681 小时前
大数据-263 实时数仓 - Canal 工作原理 工作流程 MySQL Binglog基本介绍
大数据·数据库·mysql
南城以南溫暖如初1473 小时前
AI 智能商城 APP 定制开发的核心需求
java·人工智能·spring boot·mysql·mybatis·需求分析
fastjson_3 小时前
Hive 基础函数
数据仓库·hive·hadoop
2601_962071574 小时前
基于DataX迁移MySQL到OceanBase集群
数据库·mysql·oceanbase
2601_962180334 小时前
FlinkCDC 实现 MySQL 数据变更实时同步
数据库·mysql
2601_962189604 小时前
深入浅出MySQL:概述与体系结构解析
数据库·mysql
软件聚导航16 小时前
「聚小软 AI 助手」技术升级:从数据库检索到 RAG 知识库问答
前端·数据库·mysql·微信小程序·小程序·ai编程·rag
2601_9609067216 小时前
1X发布自己的世界模型1XWM
mysql·mongodb·rabbitmq·memcached