18-学习笔记尚硅谷数仓搭建-数据仓库运行环境搭建(hive的安装及配置)

目录

备注:没有特别说明默认在atguigu用户上执行

一、Hive安装部署

二、Hive元数据配置到MySQL

三、启动Hive


备注:没有特别说明默认在atguigu用户上执行

一、Hive安装部署

1.上传hive安装包到/opt/software目录下(hadoop102执行下面操作)

安装包下载:01-学习笔记尚硅谷数仓搭建-基础Linux环境搭建(使用3台主机模拟Hadoop集群)-CSDN博客

的资源7.hive目录下

2.解压安装包(hadoop102执行下面命令)

复制代码
cd /opt/software
tar -zxvf /opt/software/hive-3.1.3.tar.gz -C /opt/module/

3.修改hive-3.1.3-bin.tar.gz的名称为hive(hadoop102执行下面命令)

复制代码
 mv /opt/module/apache-hive-3.1.3-bin/ /opt/module/hive

4.添加环境变量(hadoop102执行下面命令)

复制代码
 sudo vim /etc/profile.d/my_env.sh

添加下面的内容

复制代码
#HIVE_HOME
export HIVE_HOME=/opt/module/hive
export PATH=$PATH:$HIVE_HOME/bin

5.刷新环境(hadoop102执行下面命令)

复制代码
source /etc/profile.d/my_env.sh

6.解决日志jar包冲突(hadoop102执行下面命令)

复制代码
cd /opt/module/hive/lib
mv log4j-slf4j-impl-2.17.1.jar log4j-slf4j-impl-2.17.1.jar.bak

二、Hive元数据配置到MySQL

1.将MySQL的JDBC驱动拷贝到Hive的lib目录下(hadoop102执行下面命令)

复制代码
cp /opt/software/mysql/mysql-connector-j-8.0.31.jar /opt/module/hive/lib/

2.配置Metastore到MySQL,新建hive-site.xml配置文件(hadoop102执行下面命令)

复制代码
cd /opt/module/hive/conf
vim hive-site.xml

添加下面内容:

复制代码
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
    <!--配置Hive保存元数据信息所需的 MySQL URL地址-->
    <property>
        <name>javax.jdo.option.ConnectionURL</name>
        <value>jdbc:mysql://hadoop102:3306/metastore?useSSL=false&amp;useUnicode=true&amp;characterEncoding=UTF-8&amp;allowPublicKeyRetrieval=true</value>
    </property>

    <!--配置Hive连接MySQL的驱动全类名-->
    <property>
        <name>javax.jdo.option.ConnectionDriverName</name>
        <value>com.mysql.cj.jdbc.Driver</value>
    </property>

    <!--配置Hive连接MySQL的用户名 -->
    <property>
        <name>javax.jdo.option.ConnectionUserName</name>
        <value>root</value>
    </property>

    <!--配置Hive连接MySQL的密码 -->
    <property>
        <name>javax.jdo.option.ConnectionPassword</name>
        <value>000000</value>
    </property>

    <property>
        <name>hive.metastore.warehouse.dir</name>
        <value>/user/hive/warehouse</value>
    </property>

    <property>
        <name>hive.metastore.schema.verification</name>
        <value>false</value>
    </property>

    <property>
    <name>hive.server2.thrift.port</name>
    <value>10000</value>
    </property>

    <property>
        <name>hive.server2.thrift.bind.host</name>
        <value>hadoop102</value>
    </property>

    <property>
        <name>hive.metastore.event.db.notification.api.auth</name>
        <value>false</value>
    </property>
    
    <property>
        <name>hive.cli.print.header</name>
        <value>true</value>
    </property>

    <property>
        <name>hive.cli.print.current.db</name>
        <value>true</value>
    </property>
</configuration>

注意!!配置中的MySQL密码和用户和端口(3306)如果与上面不一样要修改

三、启动Hive

1.登录MySQL(hadoop102执行下面命令)

复制代码
mysql -uroot -p000000

2.新建hive元数据库,并退出 MySQL(hadoop102的MySQL客户端执行下面命令)

复制代码
create database metastore;
quit;

3.初始化Hive元数据库(hadoop102执行下面命令)

复制代码
schematool -initSchema -dbType mysql -verbose

4.进入MySQL,修改元数据库字符集(hadoop102的MySQL客户端执行下面命令)

复制代码
use metastore;
alter table COLUMNS_V2 modify column COMMENT varchar(256) character set utf8;
alter table TABLE_PARAMS modify column PARAM_VALUE mediumtext character set utf8;
quit;

5.启动HDFS(等待10秒后再启动hive)(hadoop102执行下面命令)

复制代码
hdp.sh start

6.启动hive客户端(hadoop102执行下面命令)

复制代码
cd /opt/mudule/hive
hive

7.查看数据库(hadoop102的hive客户端执行下面命令)

复制代码
 show databases;

如图就按照配置成功了

相关推荐
一定要AK14 小时前
Spring 入门核心笔记
java·笔记·spring
AI成长日志14 小时前
【Agentic RL】1.1 什么是Agentic RL:从传统RL到智能体学习
人工智能·学习·算法
_李小白15 小时前
【OSG学习笔记】Day 38: TextureVisitor(纹理访问器)
android·笔记·学习
荒川之神15 小时前
Oracle 数据仓库雪花模型设计(完整实战方案)
数据库·数据仓库·oracle
杨云龙UP15 小时前
从0到1快速学会Linux操作系统(基础),这一篇就够了!
linux·运维·服务器·学习·ubuntu·centos·ssh
头疼的程序员16 小时前
计算机网络:自顶向下方法(第七版)第八章 学习分享(三)
网络·学习·计算机网络
_李小白16 小时前
【OSG学习笔记】Day 37: NodeVisitor(顶点访问器)
笔记·学习
RestCloud17 小时前
2026年企业级ETL工具选型指南:从开源DataX到商业化ETLCloud的演进
数据仓库·开源·etl·datax·数据处理·数据集成·数据传输
程序员雷欧17 小时前
大模型应用开发学习第八天
大数据·人工智能·学习
荒川之神17 小时前
Oracle 数据仓库星座模型(Galaxy Model)设计原则
数据库·数据仓库·oracle