18-学习笔记尚硅谷数仓搭建-数据仓库运行环境搭建(hive的安装及配置)

目录

备注:没有特别说明默认在atguigu用户上执行

一、Hive安装部署

二、Hive元数据配置到MySQL

三、启动Hive


备注:没有特别说明默认在atguigu用户上执行

一、Hive安装部署

1.上传hive安装包到/opt/software目录下(hadoop102执行下面操作)

安装包下载:01-学习笔记尚硅谷数仓搭建-基础Linux环境搭建(使用3台主机模拟Hadoop集群)-CSDN博客

的资源7.hive目录下

2.解压安装包(hadoop102执行下面命令)

复制代码
cd /opt/software
tar -zxvf /opt/software/hive-3.1.3.tar.gz -C /opt/module/

3.修改hive-3.1.3-bin.tar.gz的名称为hive(hadoop102执行下面命令)

复制代码
 mv /opt/module/apache-hive-3.1.3-bin/ /opt/module/hive

4.添加环境变量(hadoop102执行下面命令)

复制代码
 sudo vim /etc/profile.d/my_env.sh

添加下面的内容

复制代码
#HIVE_HOME
export HIVE_HOME=/opt/module/hive
export PATH=$PATH:$HIVE_HOME/bin

5.刷新环境(hadoop102执行下面命令)

复制代码
source /etc/profile.d/my_env.sh

6.解决日志jar包冲突(hadoop102执行下面命令)

复制代码
cd /opt/module/hive/lib
mv log4j-slf4j-impl-2.17.1.jar log4j-slf4j-impl-2.17.1.jar.bak

二、Hive元数据配置到MySQL

1.将MySQL的JDBC驱动拷贝到Hive的lib目录下(hadoop102执行下面命令)

复制代码
cp /opt/software/mysql/mysql-connector-j-8.0.31.jar /opt/module/hive/lib/

2.配置Metastore到MySQL,新建hive-site.xml配置文件(hadoop102执行下面命令)

复制代码
cd /opt/module/hive/conf
vim hive-site.xml

添加下面内容:

复制代码
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
    <!--配置Hive保存元数据信息所需的 MySQL URL地址-->
    <property>
        <name>javax.jdo.option.ConnectionURL</name>
        <value>jdbc:mysql://hadoop102:3306/metastore?useSSL=false&amp;useUnicode=true&amp;characterEncoding=UTF-8&amp;allowPublicKeyRetrieval=true</value>
    </property>

    <!--配置Hive连接MySQL的驱动全类名-->
    <property>
        <name>javax.jdo.option.ConnectionDriverName</name>
        <value>com.mysql.cj.jdbc.Driver</value>
    </property>

    <!--配置Hive连接MySQL的用户名 -->
    <property>
        <name>javax.jdo.option.ConnectionUserName</name>
        <value>root</value>
    </property>

    <!--配置Hive连接MySQL的密码 -->
    <property>
        <name>javax.jdo.option.ConnectionPassword</name>
        <value>000000</value>
    </property>

    <property>
        <name>hive.metastore.warehouse.dir</name>
        <value>/user/hive/warehouse</value>
    </property>

    <property>
        <name>hive.metastore.schema.verification</name>
        <value>false</value>
    </property>

    <property>
    <name>hive.server2.thrift.port</name>
    <value>10000</value>
    </property>

    <property>
        <name>hive.server2.thrift.bind.host</name>
        <value>hadoop102</value>
    </property>

    <property>
        <name>hive.metastore.event.db.notification.api.auth</name>
        <value>false</value>
    </property>
    
    <property>
        <name>hive.cli.print.header</name>
        <value>true</value>
    </property>

    <property>
        <name>hive.cli.print.current.db</name>
        <value>true</value>
    </property>
</configuration>

注意!!配置中的MySQL密码和用户和端口(3306)如果与上面不一样要修改

三、启动Hive

1.登录MySQL(hadoop102执行下面命令)

复制代码
mysql -uroot -p000000

2.新建hive元数据库,并退出 MySQL(hadoop102的MySQL客户端执行下面命令)

复制代码
create database metastore;
quit;

3.初始化Hive元数据库(hadoop102执行下面命令)

复制代码
schematool -initSchema -dbType mysql -verbose

4.进入MySQL,修改元数据库字符集(hadoop102的MySQL客户端执行下面命令)

复制代码
use metastore;
alter table COLUMNS_V2 modify column COMMENT varchar(256) character set utf8;
alter table TABLE_PARAMS modify column PARAM_VALUE mediumtext character set utf8;
quit;

5.启动HDFS(等待10秒后再启动hive)(hadoop102执行下面命令)

复制代码
hdp.sh start

6.启动hive客户端(hadoop102执行下面命令)

复制代码
cd /opt/mudule/hive
hive

7.查看数据库(hadoop102的hive客户端执行下面命令)

复制代码
 show databases;

如图就按照配置成功了

相关推荐
留白_4 分钟前
代运营面试问答
学习
是隼人7 分钟前
buuctf-pwn PWN8题解(学习过程持续更新)
c语言·学习·安全·pwn入门·ctf入门
SendTomo11 分钟前
.ico透明图标在线生成下载平台深度解析
大数据·数据结构·数据库·数据仓库·个人开发
有Li13 分钟前
【AI答疑】MR数据预处理步骤
人工智能·笔记·算法·语言模型·医学生
江湖人称菠萝包1 小时前
【Qt】《Qt 5.9 C++开发指南》笔记-Chapter3-Qt类库概述
笔记·qt·qt5
ps酷教程1 小时前
数据权限DataPersmission
java·学习
无敌贵点大王1 小时前
RTThread学习记录10——C语言实现面向对象的编程
c语言·stm32·学习·链表
江屿风2 小时前
【Linux系统】【Linux进程终止等待详解与程序替换机制初体验】流食般投喂
linux·运维·笔记·系统架构·centos·unix
程序员yu2 小时前
数智码力:Python作用域完全梳理,全局变量局部变量不再混乱
开发语言·python·学习
Ztt6666666662 小时前
竹节密封罐披上紫釉,硬朗筋骨也有柔和一面
经验分享·笔记·其他·百度·微信公众平台