【Sqoop】Linux(CentOS7)下安装Sqoop教程

一、实验环境

1. 节点IP

主机名 IP
feilink1 192.168.10.101
feilink2 192.168.10.102
feilink3 192.168.10.103

2. 依赖组件

  • Hadoop 3.3
  • MySQL 8
  • jdk 8

3. 没有特殊说明的都是在feilink1节点上的操作

4. MySQL配置

  • 用户:root

  • 密码:123456

    5. 各组件版本

    组件 版本
    CentOS 7
    Hadoop 3.3.4
    MySQL 8.0.29

    6. 用户密码

    • root(123456)
    • hadoop(hadoop)

二、下载Sqoop压缩包

下载地址:https://archive.apache.org/dist/sqoop/1.4.7/sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz

上传压缩包到/export/server目录下

三、安装Sqoop

1. 解压文件

bash 复制代码
tar -zxvf sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz

2. 删除压缩包

bash 复制代码
rm -rf sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz

3. 重命名文件夹

bash 复制代码
mv sqoop-1.4.7.bin__hadoop-2.6.0/ sqoop

4. 配置环境变量

bash 复制代码
vim /etc/profile
bash 复制代码
# Sqoop
export SQOOP_HOME=/export/server/sqoop
export PATH=$PATH:$SQOOP_HOME/bin
bash 复制代码
source /etc/profile

5. 安装成功

bash 复制代码
sqoop version

四、配置Sqoop

1. 修改配置文件

bash 复制代码
cd /export/server/sqoop/conf
vim  sqoop-env.sh
bash 复制代码
export JAVA_HOME=/export/server/jdk
export HADOOP_COMMON_HOME=/export/server/hadoop
export HADOOP_MAPRED_HOME=/export/server/hadoop
# export HIVE_HOME=/opt/hive   # 如果需要导入 Hive
# export HBASE_HOME=/opt/hbase # 如果需要导入 HBase

2. 配置MySQL驱动

下载地址:http://repo1.maven.org/maven2/mysql/mysql-connector-java/8.0.29/mysql-connector-java-8.0.29.jar

上传驱动文件到sqoop/lib文件夹

3. 配置依赖包

下载地址:https://repo1.maven.org/maven2/commons-lang/commons-lang/2.6/commons-lang-2.6.jar

上传驱动文件到sqoop/lib文件夹

四、测试Sqoop是否可用

bash 复制代码
bin/sqoop list-databases --connect jdbc:mysql://localhost:3306 --username root --password 123456
相关推荐
岳麓丹枫0014 小时前
故障案例分析:系统负载居高不下,多次出现 OOM
linux·postgresql
磁场转动100万匹4 小时前
数仓分层到底在分什么:从 DWD 到 ADS,最后落到 ClickHouse
数据仓库·hive·hadoop
2401_862880824 小时前
Linux中断、中断子系统、内核同步互斥机制
linux·驱动开发·嵌入式硬件
姓刘的哦5 小时前
GT911触摸芯片
linux·stm32
Android系统攻城狮5 小时前
Linux Gstreamer深度解析之gst_audio_ring_buffer_read调用流程与实战(七十五)
linux·运维·服务器·gstreamer音视频·gstreamer音视频进阶
一条破秋裤5 小时前
04_控制GPIO通用化_从寄存器到gpiod
linux
星恒随风5 小时前
Linux进程信号(二):深入理解信号阻塞、未决、sigaction、中断机制、可重入函数与SIGCHLD
linux·运维·服务器·笔记·学习
额额额对了5 小时前
Linux 驱动实战:ADXL345 驱动
linux·运维·服务器
Android系统攻城狮13 小时前
Linux Gstreamer深度解析之gst_audio_ring_buffer_delay调用流程与实战(七十二)
linux·运维·服务器·gstreamer音视频·音视频进阶
快乐的韭菜根根14 小时前
ubuntu 安装slurm并配置
linux·运维·ubuntu