【hadoop】Sqoop数据迁移工具的安装部署

一、Sqoop安装与配置

步骤:

1、使用XFTP将Sqoop安装包sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz发送到master机器的主目录。

2、解压安装包:

复制代码
tar -zxvf ~/sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz

3、修改文件夹的名字,将其改为sqoop,或者创建软连接也可:

复制代码
mv ~/sqoop-1.4.6.bin__hadoop-2.0.4-alpha ~/sqoop

4、Sqoop的相关配置文件位于安装路径下的conf文件夹中,进入到该目录下,修改相关配置文件即可。

复制代码
cd ~/sqoop/conf

5、修改sqoop-env.sh配置文件,该文件一开始并不存在:

复制代码
vim sqoop-env.sh

在对应的地方补充上Hadoop、Hive、HBase、ZooKeeper等的安装路径即可,内容如下:

复制代码
export HADOOP_COMMON_HOME=/home/hadoop/hadoop-2.9.2
export HADOOP_MAPRED_HOME=/home/hadoop/hadoop-2.9.2
export HBASE_HOME=/home/hadoop/hbase
export HIVE_HOME=/home/hadoop/hive
export ZOOCFGDIR=/home/hadoop/zookeeper-3.4.6

需要根据你的实际情况修改,配置文件修改完成后保存。

6、配置环境变量,后续只需要在master上启动HBase,因此只在master上配置即可:

复制代码
vim ~/.bashrc

在文件末尾添加以下内容:

复制代码
export SQOOP_HOME=/home/hadoop/sqoop
export PATH=$SQOOP_HOME/bin:$PATH

保存文件,然后刷新环境变量或重新启动命令行终端:

复制代码
source ~/.bashrc

7、添加MySQL驱动包,将mysql-connector-java-5.1.38.jar驱动包上传到master主机上,并把它放到Sqoop安装目录下的lib文件夹内即可:

复制代码
mv ~/mysql-connector-java-5.1.38.jar ~/sqoop/lib/

二、测试运行

前提:确保Zookeeper、HDFS、YARN三个重要组件都正确启动。

步骤:

1、使用help命令查看Sqoop的用法,验证安装是否成功:

复制代码
sqoop help

2、测试MySQL数据库能否成功连接:

复制代码
sqoop list-databases --connect jdbc:mysql://localhost --username root -password 123456

如果能打印出本地MySQL数据库里面的数据库名称列表,即为连接本地数据库成功。

3、(可选)授予本地MySQL数据库root账户远程访问权限:

先登录到MySQL中:

复制代码
mysql -u root -p

然后执行以下语句:

复制代码
mysql> grant all on *.* to 'root'@'master' identified by '123456' with grant option;
mysql> grant all on *.* to 'root'@'%' identified by '123456' with grant option;
mysql> flush privileges;

执行完上述语句,就可以把上面连接数据库的localhost,改成主机名或者ip地址,也可以使用root用户远程连接本地的这个MySQL数据库了。

相关推荐
诗句藏于尽头6 小时前
DJANGO后端服务启动报错及解决
数据库·笔记·django
手握风云-6 小时前
MySQL数据库精研之旅第十五期:索引的 “潜规则”(下)
数据库
zzu123zsw7 小时前
01-Hadoop简介与生态系统
hadoop
鸿儒之观7 小时前
hadoop 框架 jar下载
大数据·hadoop·jar
2302_799525747 小时前
【Hadoop】Hadoop集群安装中出现的问题
linux·hadoop
失散137 小时前
分布式专题——1.1 Redis单机、主从、哨兵、集群部署
java·数据库·redis·分布式·架构
2301_779503767 小时前
MySQL集群高可用架构---mysql高可用之组复制 (MGR)
数据库·mysql·架构
Hello.Reader7 小时前
一文通关 Proto3完整语法与工程实践
java·linux·数据库·proto3
c萱8 小时前
软件测试错题笔记
软件测试·数据库·笔记·测试工具·oracle·测试用例
長琹8 小时前
AES加密算法详细加密步骤代码实现--身份证号码加解密系统
网络·数据库·人工智能·python·密码学