Sqoop 的安装与配置

目录

  • [1 下载并解压](#1 下载并解压)
  • [2 修改配置文件](#2 修改配置文件)
  • [3 添加环境变量](#3 添加环境变量)
  • [4 拷贝 JDBC 驱动](#4 拷贝 JDBC 驱动)
  • [5 测试Sqoop是否能够成功连接数据库](#5 测试Sqoop是否能够成功连接数据库)

下载地址

1 下载并解压

(1)上传安装包 sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz 到 hadoop101 的 /opt/software 路径中

(2)解压sqoop安装包到指定目录,并对其重命名

powershell 复制代码
[huwei@hadoop101 software]$ tar -zxf sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz -C /opt/module/
[huwei@hadoop101 software]$ cd /opt/module/
[huwei@hadoop101 module]$ mv sqoop-1.4.6.bin__hadoop-2.0.4-alpha/ sqoop-1.4.6

2 修改配置文件

进入到/opt/module/sqoop/conf目录,重命名配置文件

powershell 复制代码
[huwei@hadoop101 module]$ cd sqoop-1.4.6/conf/
[huwei@hadoop101 conf]$ mv sqoop-env-template.sh sqoop-env.sh

修改配置文件

powershell 复制代码
[huwei@hadoop101 conf]$ vim sqoop-env.sh

增加如下内容

powershell 复制代码
export HADOOP_COMMON_HOME=/opt/module/hadoop-3.1.3
export HADOOP_MAPRED_HOME=/opt/module/hadoop-3.1.3
export HIVE_HOME=/opt/module/hive-3.1.2
export ZOOKEEPER_HOME=/opt/module/zookeeper-3.5.7
export ZOOCFGDIR=/opt/module/zookeeper-3.5.7/conf

3 添加环境变量

powershell 复制代码
[huwei@hadoop101 sqoop-1.4.6]$ sudo vim /etc/profile.d/my_env.sh
powershell 复制代码
# SQOOP_HOME
export SQOOP_HOME=/opt/module/sqoop-1.4.6
export PATH=$PATH:$SQOOP_HOME/bin

使得环境变量生效

powershell 复制代码
[huwei@hadoop101 sqoop-1.4.6]$ source /etc/profile

4 拷贝 JDBC 驱动

(1)将 mysql-connector-java-5.1.48.jar 上传到 /opt/software 路径

(2)进入到/opt/software/路径,拷贝 jdbc 驱动到 sqoop 的 lib 目录下。

5 测试Sqoop是否能够成功连接数据库

powershell 复制代码
[huwei@hadoop101 bin]$ sqoop list-databases --connect jdbc:mysql://hadoop101:3306/ --username root --password root

出现已有的数据库名称

相关推荐
Q264336502313 小时前
【有源码】基于机器学习的电信网络诈骗话术语义识别与可视化分析系统 XGBoost算法+Hadoop+Spark
大数据·hadoop·算法·机器学习·spark·毕业设计·课程设计
Q264336502314 小时前
【有源码】基于 Hadoop 的强化学习智能体轨迹数据挖掘与可视化分析系统大数据毕设项目
大数据·hadoop·机器学习·数据挖掘·spark·课程设计·数据可视化
Q264336502317 小时前
【有源码】基于大数据的药品多维度属性分析可视化系统 基于Spark的药品属性聚类与关联规则可视化分析系统
hadoop·机器学习·数据挖掘·spark·毕业设计·课程设计·大数据项目
Q264336502318 小时前
【有源码】基于大数据的零售交易者行为特征与生存状况数据分析及可视化 Hadoop+Spark大数据项目
大数据·hadoop·信息可视化·数据挖掘·数据分析·spark·毕业设计
Q264336502320 小时前
【有源码】基于 Hadoop 生态的化妆品销售数据存储分析与可视化 面向化妆品行业的用户画像构建与销售机会识别研究
大数据·hadoop·python·机器学习·spark·毕业设计·课程设计
计算机编程-吉哥2 天前
基于机器学习的城市交通拥堵分析与预测平台【计算机毕业设计选题·机器学习·随机森林算法】
hadoop·算法·随机森林·机器学习·课程设计·计算机毕业设计选题·大数据毕业设计选题推荐
计算机源码社2 天前
基于Hadoop+Spark的黄金市场历史数据特征分析与可视化大屏 基于K-Means聚类算法的黄金历史价格阶段划分研究
大数据·hadoop·python·数据挖掘·数据分析·spark·毕业设计
2601_962300812 天前
机器学习贴士:使用Python编写MapReduce
hadoop·python·机器学习·mapreduce·数据处理
爱吃火鸡面呀2 天前
HDFS 架构深度解析:从核心组件到数据读写全流程
hadoop·hdfs·架构
m0_547486663 天前
《大数据技术与应用:Hadoop和PySpark实现》全套PPT课件2026
大数据·hadoop