Hive安装教程

Hive安装教程

---

文章目录

• Hive安装教程
• • 写在前面
  • 安装
  • • 下载
    • 安装部署
    • • 安装Hive
      • 启动并使用Hive
  • MySQL安装
  • • 检查当前系统是否安装过MySQL
    • 安装
    • 初始化数据库
  • Hive元数据配置到MySQL
  • • 拷贝驱动
    • 配置Metastore到MySQL
    • 再次启动Hive

---

写在前面

• Linux版本：CentOS7.5
• Hive版本：Hive-3.1.2

安装

下载

下载地址：http://archive.apache.org/dist/hive/

安装部署

安装Hive

• 把apache-hive-3.1.2-bin.tar.gz上传到linux的/export/software目录下
• 解压apache-hive-3.1.2-bin.tar.gz到/export/module/目录下面

[whybigdata@wbd01 software]$ tar -zxvf /export/software/apache-hive-3.1.2-bin.tar.gz -C /export/module/

• 修改/etc/profile.d/my_env.sh，添加环境变量

[whybigdata@wbd01 software]$ sudo vim /etc/profile.d/my_env.sh

添加内容

#HIVE_HOME
export HIVE_HOME=/export/module/hive
export PATH=$PATH:$HIVE_HOME/bin

• 解决日志Jar包冲突

[whybigdata@wbd01 software]$ mv $HIVE_HOME/lib/log4j-slf4j-impl-2.10.0.jar $HIVE_HOME/lib/log4j-slf4j-impl-2.10.0.bak

• 初始化元数据库

[whybigdata@wbd01 hive]$ bin/schematool -dbType derby -initSchema

启动并使用Hive

• 启动Hive

[whybigdata@wbd01 hive]$ bin/hive

• 使用Hive

hive> show databases;
hive> show tables;
hive> create table test(id int);
hive> insert into test values(1);
hive> select * from test;

• 在CRT窗口中开启另一个窗口开启Hive，在/tmp/whybigdata目录下监控hive.log文件

  Caused by: ERROR XSDB6: Another instance of Derby may have already booted the database /export/module/hive-3.1.2/metastore_db.
  at org.apache.derby.iapi.error.StandardException.newException(Unknown Source)
  at org.apache.derby.iapi.error.StandardException.newException(Unknown Source)
  at org.apache.derby.impl.store.raw.data.BaseDataFileFactory.privGetJBMSLockOnDB(Unknown Source)
  at org.apache.derby.impl.store.raw.data.BaseDataFileFactory.run(Unknown Source)
  ...

原因在于Hive默认使用的元数据库为 derby，开启Hive之后就会占用元数据库，且不与其他客户端共享数据，所以我们需要将Hive的元数据地址改为MySQL。

MySQL安装

检查当前系统是否安装过MySQL

[whybigdata@wbd01 ~]$ rpm -qa | grep mariadb
mariadb-libs-5.5.56-2.el7.x86_64 
// TODO 如果存在通过如下命令卸载
[whybigdata @wbd01 ~]$ sudo rpm -e --nodeps  mariadb-libs

安装

• 将MySQL安装包拷贝到/export/software目录下

[whybigdata @wbd01 software]# ll
总用量 528384
-rw-r--r--. 1 root root 609556480 3月  21 15:41 mysql-5.7.28-1.el7.x86_64.rpm-bundle.tar

• 解压MySQL安装包

[whybigdata @wbd01 software]# tar -xf mysql-5.7.28-1.el7.x86_64.rpm-bundle.tar

• 在安装目录下执行rpm安装

[whybigdata @wbd01 software]$ 
sudo rpm -ivh mysql-community-common-5.7.28-1.el7.x86_64.rpm
sudo rpm -ivh mysql-community-libs-5.7.28-1.el7.x86_64.rpm
sudo rpm -ivh mysql-community-libs-compat-5.7.28-1.el7.x86_64.rpm
sudo rpm -ivh mysql-community-client-5.7.28-1.el7.x86_64.rpm
sudo rpm -ivh mysql-community-server-5.7.28-1.el7.x86_64.rpm

注意:按照顺序依次执行
如果此处Linux是 最小化安装 的，在安装mysql-community-server-5.7.28-1.el7.x86_64.rpm时可能会出现如下错误

[whybigdata@wbd01 software]$ sudo rpm -ivh mysql-community-server-5.7.28-1.el7.x86_64.rpm
警告：mysql-community-server-5.7.28-1.el7.x86_64.rpm: 头V3 DSA/SHA1 Signature, 密钥 ID 5072e1f5: NOKEY
错误：依赖检测失败：
        libaio.so.1()(64bit) 被 mysql-community-server-5.7.28-1.el7.x86_64 需要
        libaio.so.1(LIBAIO_0.1)(64bit) 被 mysql-community-server-5.7.28-1.el7.x86_64 需要
        libaio.so.1(LIBAIO_0.4)(64bit) 被 mysql-community-server-5.7.28-1.el7.x86_64 需要

通过yum安装缺少的依赖,然后重新安装mysql-community-server-5.7.28-1.el7.x86_64即可

[whybigdata@wbd01 software] yum install -y libaio

初始化数据库

• 删除/etc/my.cnf文件中datadir指向的目录下的所有内容,如果有内容的情况下:

查看datadir的值：

[mysqld]
datadir=/var/lib/mysql

删除/var/lib/mysql目录下的所有内容:

[whybigdata @wbd01 mysql]# cd /var/lib/mysql
[whybigdata @wbd01 mysql]# sudo rm -rf ./*    //注意执行命令的位置

• 初始化数据库

[whybigdata @wbd01 export]$ sudo mysqld --initialize --user=mysql

• 查看临时生成的root用户的密码

[whybigdata @wbd01 export]$ sudo cat /var/log/mysqld.log

• 启动MySQL服务

[whybigdata @wbd01 export]$ sudo systemctl start mysqld

• 登录MySQL数据库

[whybigdata @wbd01 export]$ mysql -uroot -p
Enter password:   输入临时生成的密码
   登录成功.

• 必须先修改root用户的密码,否则执行其他的操作会报错

mysql> set password = password("newPassword");

• 修改mysql库下的user表中的root用户允许任意ip连接

mysql> update mysql.user set host='%' where user='root';
mysql> flush privileges;

Hive元数据配置到MySQL

拷贝驱动

将MySQL的JDBC驱动拷贝到Hive安装目录的lib目录下

[whybigdata@wbd01 software]$ cp /export/software/mysql-connector-java-5.1.37.jar $HIVE_HOME/lib

配置Metastore到MySQL

• 在 $HIVE_HOME/conf目录下新建 hive-site.xml 文件

[whybigdata@wbd01 software]$ vim $HIVE_HOME/conf/hive-site.xml

添加如下内容

<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
    <!-- jdbc连接的URL -->
    <property>
        <name>javax.jdo.option.ConnectionURL</name>
        <value>jdbc:mysql://wbd01:3306/metastore?useSSL=false</value>
	</property>

    <!-- jdbc连接的Driver-->
    <property>
        <name>javax.jdo.option.ConnectionDriverName</name>
        <value>com.mysql.jdbc.Driver</value>
	</property>

	<!-- jdbc连接的username-->
    <property>
        <name>javax.jdo.option.ConnectionUserName</name>
        <value>root</value>
    </property>

    <!-- jdbc连接的password -->
    <property>
        <name>javax.jdo.option.ConnectionPassword</name>
        <value>123456</value>
	</property>

    <!-- Hive元数据存储版本的验证 -->
    <property>
        <name>hive.metastore.schema.verification</name>
        <value>false</value>
	</property>

    <!--元数据存储授权-->
    <property>
        <name>hive.metastore.event.db.notification.api.auth</name>
        <value>false</value>
    </property>

    <!-- Hive默认在HDFS的工作目录 -->
    <property>
        <name>hive.metastore.warehouse.dir</name>
        <value>/user/hive/warehouse</value>
    </property>
</configuration>

• 登陆MySQL

[whybigdata@wbd01 software]$ mysql -uroot -p123456

• 新建Hive元数据库

mysql> create database metastore;
mysql> quit;

• 初始化Hive元数据库

[whybigdata@wbd01 software]$ schematool -initSchema -dbType mysql -verbose

再次启动Hive

• 启动Hive

[whybigdata@wbd01 hive]$ bin/hive

• 使用Hive

hive> show databases;
hive> show tables;
hive> create table test (id int);
hive> insert into test values(1);
hive> select * from test;

• 在CRT窗口中开启另一个窗口开启Hive

hive> show databases;
hive> show tables;
hive> select * from aa;

全文结束！！！