18-学习笔记尚硅谷数仓搭建-数据仓库运行环境搭建(hive的安装及配置)

目录

备注:没有特别说明默认在atguigu用户上执行

一、Hive安装部署

二、Hive元数据配置到MySQL

三、启动Hive


备注:没有特别说明默认在atguigu用户上执行

一、Hive安装部署

1.上传hive安装包到/opt/software目录下(hadoop102执行下面操作)

安装包下载:01-学习笔记尚硅谷数仓搭建-基础Linux环境搭建(使用3台主机模拟Hadoop集群)-CSDN博客

的资源7.hive目录下

2.解压安装包(hadoop102执行下面命令)

复制代码
cd /opt/software
tar -zxvf /opt/software/hive-3.1.3.tar.gz -C /opt/module/

3.修改hive-3.1.3-bin.tar.gz的名称为hive(hadoop102执行下面命令)

复制代码
 mv /opt/module/apache-hive-3.1.3-bin/ /opt/module/hive

4.添加环境变量(hadoop102执行下面命令)

复制代码
 sudo vim /etc/profile.d/my_env.sh

添加下面的内容

复制代码
#HIVE_HOME
export HIVE_HOME=/opt/module/hive
export PATH=$PATH:$HIVE_HOME/bin

5.刷新环境(hadoop102执行下面命令)

复制代码
source /etc/profile.d/my_env.sh

6.解决日志jar包冲突(hadoop102执行下面命令)

复制代码
cd /opt/module/hive/lib
mv log4j-slf4j-impl-2.17.1.jar log4j-slf4j-impl-2.17.1.jar.bak

二、Hive元数据配置到MySQL

1.将MySQL的JDBC驱动拷贝到Hive的lib目录下(hadoop102执行下面命令)

复制代码
cp /opt/software/mysql/mysql-connector-j-8.0.31.jar /opt/module/hive/lib/

2.配置Metastore到MySQL,新建hive-site.xml配置文件(hadoop102执行下面命令)

复制代码
cd /opt/module/hive/conf
vim hive-site.xml

添加下面内容:

复制代码
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
    <!--配置Hive保存元数据信息所需的 MySQL URL地址-->
    <property>
        <name>javax.jdo.option.ConnectionURL</name>
        <value>jdbc:mysql://hadoop102:3306/metastore?useSSL=false&amp;useUnicode=true&amp;characterEncoding=UTF-8&amp;allowPublicKeyRetrieval=true</value>
    </property>

    <!--配置Hive连接MySQL的驱动全类名-->
    <property>
        <name>javax.jdo.option.ConnectionDriverName</name>
        <value>com.mysql.cj.jdbc.Driver</value>
    </property>

    <!--配置Hive连接MySQL的用户名 -->
    <property>
        <name>javax.jdo.option.ConnectionUserName</name>
        <value>root</value>
    </property>

    <!--配置Hive连接MySQL的密码 -->
    <property>
        <name>javax.jdo.option.ConnectionPassword</name>
        <value>000000</value>
    </property>

    <property>
        <name>hive.metastore.warehouse.dir</name>
        <value>/user/hive/warehouse</value>
    </property>

    <property>
        <name>hive.metastore.schema.verification</name>
        <value>false</value>
    </property>

    <property>
    <name>hive.server2.thrift.port</name>
    <value>10000</value>
    </property>

    <property>
        <name>hive.server2.thrift.bind.host</name>
        <value>hadoop102</value>
    </property>

    <property>
        <name>hive.metastore.event.db.notification.api.auth</name>
        <value>false</value>
    </property>
    
    <property>
        <name>hive.cli.print.header</name>
        <value>true</value>
    </property>

    <property>
        <name>hive.cli.print.current.db</name>
        <value>true</value>
    </property>
</configuration>

注意!!配置中的MySQL密码和用户和端口(3306)如果与上面不一样要修改

三、启动Hive

1.登录MySQL(hadoop102执行下面命令)

复制代码
mysql -uroot -p000000

2.新建hive元数据库,并退出 MySQL(hadoop102的MySQL客户端执行下面命令)

复制代码
create database metastore;
quit;

3.初始化Hive元数据库(hadoop102执行下面命令)

复制代码
schematool -initSchema -dbType mysql -verbose

4.进入MySQL,修改元数据库字符集(hadoop102的MySQL客户端执行下面命令)

复制代码
use metastore;
alter table COLUMNS_V2 modify column COMMENT varchar(256) character set utf8;
alter table TABLE_PARAMS modify column PARAM_VALUE mediumtext character set utf8;
quit;

5.启动HDFS(等待10秒后再启动hive)(hadoop102执行下面命令)

复制代码
hdp.sh start

6.启动hive客户端(hadoop102执行下面命令)

复制代码
cd /opt/mudule/hive
hive

7.查看数据库(hadoop102的hive客户端执行下面命令)

复制代码
 show databases;

如图就按照配置成功了

相关推荐
通信小呆呆2 天前
当算法有了“五感”:多模态数据融合如何向人体感官协同学习?
人工智能·学习·算法·机器学习·机器人
H__Rick2 天前
自动对焦学习-3
人工智能·学习·计算机视觉
Daisy Lee2 天前
量化学习-第1章-什么是量化金融
学习·金融·datawhale
Alsn862 天前
等待学习-学习目录:Docker 容器安全攻防
学习·安全·docker
YM52e2 天前
买菜计算器小应用 - HarmonyOS ArkUI 开发实战-PC版本
学习·华为·harmonyos·鸿蒙·鸿蒙系统
王小王-1232 天前
基于 Hive 的网易云音乐数据分析及可视化系统
hive·hadoop·数据分析·音乐数据分析·网易云音乐分析·hive音乐分析·hadoop网易云
小雨下雨的雨2 天前
HarmonyOS ArkUI训练营入门-组件掌握系列-Animation 动画效果实现-PC版本
学习·华为·harmonyos·鸿蒙
闪闪发亮的小星星2 天前
高斯光以及高斯光公式解释
笔记
cqbzcsq2 天前
CellFlow虚拟细胞论文阅读
论文阅读·人工智能·笔记·学习·生物信息
Database_Cool_2 天前
大规模数据分析降本指南:AnalyticDB Serverless 弹性架构实战
数据仓库·阿里云·架构·数据分析·serverless