18-学习笔记尚硅谷数仓搭建-数据仓库运行环境搭建(hive的安装及配置)

目录

备注:没有特别说明默认在atguigu用户上执行

一、Hive安装部署

二、Hive元数据配置到MySQL

三、启动Hive


备注:没有特别说明默认在atguigu用户上执行

一、Hive安装部署

1.上传hive安装包到/opt/software目录下(hadoop102执行下面操作)

安装包下载:01-学习笔记尚硅谷数仓搭建-基础Linux环境搭建(使用3台主机模拟Hadoop集群)-CSDN博客

的资源7.hive目录下

2.解压安装包(hadoop102执行下面命令)

复制代码
cd /opt/software
tar -zxvf /opt/software/hive-3.1.3.tar.gz -C /opt/module/

3.修改hive-3.1.3-bin.tar.gz的名称为hive(hadoop102执行下面命令)

复制代码
 mv /opt/module/apache-hive-3.1.3-bin/ /opt/module/hive

4.添加环境变量(hadoop102执行下面命令)

复制代码
 sudo vim /etc/profile.d/my_env.sh

添加下面的内容

复制代码
#HIVE_HOME
export HIVE_HOME=/opt/module/hive
export PATH=$PATH:$HIVE_HOME/bin

5.刷新环境(hadoop102执行下面命令)

复制代码
source /etc/profile.d/my_env.sh

6.解决日志jar包冲突(hadoop102执行下面命令)

复制代码
cd /opt/module/hive/lib
mv log4j-slf4j-impl-2.17.1.jar log4j-slf4j-impl-2.17.1.jar.bak

二、Hive元数据配置到MySQL

1.将MySQL的JDBC驱动拷贝到Hive的lib目录下(hadoop102执行下面命令)

复制代码
cp /opt/software/mysql/mysql-connector-j-8.0.31.jar /opt/module/hive/lib/

2.配置Metastore到MySQL,新建hive-site.xml配置文件(hadoop102执行下面命令)

复制代码
cd /opt/module/hive/conf
vim hive-site.xml

添加下面内容:

复制代码
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
    <!--配置Hive保存元数据信息所需的 MySQL URL地址-->
    <property>
        <name>javax.jdo.option.ConnectionURL</name>
        <value>jdbc:mysql://hadoop102:3306/metastore?useSSL=false&amp;useUnicode=true&amp;characterEncoding=UTF-8&amp;allowPublicKeyRetrieval=true</value>
    </property>

    <!--配置Hive连接MySQL的驱动全类名-->
    <property>
        <name>javax.jdo.option.ConnectionDriverName</name>
        <value>com.mysql.cj.jdbc.Driver</value>
    </property>

    <!--配置Hive连接MySQL的用户名 -->
    <property>
        <name>javax.jdo.option.ConnectionUserName</name>
        <value>root</value>
    </property>

    <!--配置Hive连接MySQL的密码 -->
    <property>
        <name>javax.jdo.option.ConnectionPassword</name>
        <value>000000</value>
    </property>

    <property>
        <name>hive.metastore.warehouse.dir</name>
        <value>/user/hive/warehouse</value>
    </property>

    <property>
        <name>hive.metastore.schema.verification</name>
        <value>false</value>
    </property>

    <property>
    <name>hive.server2.thrift.port</name>
    <value>10000</value>
    </property>

    <property>
        <name>hive.server2.thrift.bind.host</name>
        <value>hadoop102</value>
    </property>

    <property>
        <name>hive.metastore.event.db.notification.api.auth</name>
        <value>false</value>
    </property>
    
    <property>
        <name>hive.cli.print.header</name>
        <value>true</value>
    </property>

    <property>
        <name>hive.cli.print.current.db</name>
        <value>true</value>
    </property>
</configuration>

注意!!配置中的MySQL密码和用户和端口(3306)如果与上面不一样要修改

三、启动Hive

1.登录MySQL(hadoop102执行下面命令)

复制代码
mysql -uroot -p000000

2.新建hive元数据库,并退出 MySQL(hadoop102的MySQL客户端执行下面命令)

复制代码
create database metastore;
quit;

3.初始化Hive元数据库(hadoop102执行下面命令)

复制代码
schematool -initSchema -dbType mysql -verbose

4.进入MySQL,修改元数据库字符集(hadoop102的MySQL客户端执行下面命令)

复制代码
use metastore;
alter table COLUMNS_V2 modify column COMMENT varchar(256) character set utf8;
alter table TABLE_PARAMS modify column PARAM_VALUE mediumtext character set utf8;
quit;

5.启动HDFS(等待10秒后再启动hive)(hadoop102执行下面命令)

复制代码
hdp.sh start

6.启动hive客户端(hadoop102执行下面命令)

复制代码
cd /opt/mudule/hive
hive

7.查看数据库(hadoop102的hive客户端执行下面命令)

复制代码
 show databases;

如图就按照配置成功了

相关推荐
yumgpkpm2 小时前
Cloudera CDP/CDH/Hadoop 信创大模型AI时代何去何从?
人工智能·hive·hadoop·elasticsearch·zookeeper·kafka·cloudera
Tina Tang2 小时前
【Hello Agent】第一章 初识智能体笔记
笔记
QZ_orz_freedom2 小时前
后端学习笔记-WebSocket
笔记·学习
Gain_chance2 小时前
20-学习笔记尚硅谷数仓搭建-数据仓库开发环境搭建-hive连接DataGrip
数据仓库·hive·笔记·学习·datagrip
近津薪荼2 小时前
优选算法——双指针专题3(快慢双指针)
c++·学习·算法
神奇的代码在哪里2 小时前
跟着官方教程学习鸿蒙ArkTS语言:6大核心知识点深度解读与实践指南
学习·华为·typescript·harmonyos·arkts
【赫兹威客】浩哥2 小时前
【赫兹威客】完全分布式Hive(on Spark)测试教程
hive·分布式·spark
Gain_chance4 小时前
19-学习笔记尚硅谷数仓搭建-数据仓库运行环境搭建(spark安装及配置)
数据仓库·笔记·学习·spark
Gain_chance4 小时前
21-学习笔记尚硅谷数仓搭建-数据仓库模拟数据生成
数据仓库·笔记·学习