18-学习笔记尚硅谷数仓搭建-数据仓库运行环境搭建(hive的安装及配置)

目录

备注:没有特别说明默认在atguigu用户上执行

一、Hive安装部署

二、Hive元数据配置到MySQL

三、启动Hive


备注:没有特别说明默认在atguigu用户上执行

一、Hive安装部署

1.上传hive安装包到/opt/software目录下(hadoop102执行下面操作)

安装包下载:01-学习笔记尚硅谷数仓搭建-基础Linux环境搭建(使用3台主机模拟Hadoop集群)-CSDN博客

的资源7.hive目录下

2.解压安装包(hadoop102执行下面命令)

复制代码
cd /opt/software
tar -zxvf /opt/software/hive-3.1.3.tar.gz -C /opt/module/

3.修改hive-3.1.3-bin.tar.gz的名称为hive(hadoop102执行下面命令)

复制代码
 mv /opt/module/apache-hive-3.1.3-bin/ /opt/module/hive

4.添加环境变量(hadoop102执行下面命令)

复制代码
 sudo vim /etc/profile.d/my_env.sh

添加下面的内容

复制代码
#HIVE_HOME
export HIVE_HOME=/opt/module/hive
export PATH=$PATH:$HIVE_HOME/bin

5.刷新环境(hadoop102执行下面命令)

复制代码
source /etc/profile.d/my_env.sh

6.解决日志jar包冲突(hadoop102执行下面命令)

复制代码
cd /opt/module/hive/lib
mv log4j-slf4j-impl-2.17.1.jar log4j-slf4j-impl-2.17.1.jar.bak

二、Hive元数据配置到MySQL

1.将MySQL的JDBC驱动拷贝到Hive的lib目录下(hadoop102执行下面命令)

复制代码
cp /opt/software/mysql/mysql-connector-j-8.0.31.jar /opt/module/hive/lib/

2.配置Metastore到MySQL,新建hive-site.xml配置文件(hadoop102执行下面命令)

复制代码
cd /opt/module/hive/conf
vim hive-site.xml

添加下面内容:

复制代码
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
    <!--配置Hive保存元数据信息所需的 MySQL URL地址-->
    <property>
        <name>javax.jdo.option.ConnectionURL</name>
        <value>jdbc:mysql://hadoop102:3306/metastore?useSSL=false&amp;useUnicode=true&amp;characterEncoding=UTF-8&amp;allowPublicKeyRetrieval=true</value>
    </property>

    <!--配置Hive连接MySQL的驱动全类名-->
    <property>
        <name>javax.jdo.option.ConnectionDriverName</name>
        <value>com.mysql.cj.jdbc.Driver</value>
    </property>

    <!--配置Hive连接MySQL的用户名 -->
    <property>
        <name>javax.jdo.option.ConnectionUserName</name>
        <value>root</value>
    </property>

    <!--配置Hive连接MySQL的密码 -->
    <property>
        <name>javax.jdo.option.ConnectionPassword</name>
        <value>000000</value>
    </property>

    <property>
        <name>hive.metastore.warehouse.dir</name>
        <value>/user/hive/warehouse</value>
    </property>

    <property>
        <name>hive.metastore.schema.verification</name>
        <value>false</value>
    </property>

    <property>
    <name>hive.server2.thrift.port</name>
    <value>10000</value>
    </property>

    <property>
        <name>hive.server2.thrift.bind.host</name>
        <value>hadoop102</value>
    </property>

    <property>
        <name>hive.metastore.event.db.notification.api.auth</name>
        <value>false</value>
    </property>
    
    <property>
        <name>hive.cli.print.header</name>
        <value>true</value>
    </property>

    <property>
        <name>hive.cli.print.current.db</name>
        <value>true</value>
    </property>
</configuration>

注意!!配置中的MySQL密码和用户和端口(3306)如果与上面不一样要修改

三、启动Hive

1.登录MySQL(hadoop102执行下面命令)

复制代码
mysql -uroot -p000000

2.新建hive元数据库,并退出 MySQL(hadoop102的MySQL客户端执行下面命令)

复制代码
create database metastore;
quit;

3.初始化Hive元数据库(hadoop102执行下面命令)

复制代码
schematool -initSchema -dbType mysql -verbose

4.进入MySQL,修改元数据库字符集(hadoop102的MySQL客户端执行下面命令)

复制代码
use metastore;
alter table COLUMNS_V2 modify column COMMENT varchar(256) character set utf8;
alter table TABLE_PARAMS modify column PARAM_VALUE mediumtext character set utf8;
quit;

5.启动HDFS(等待10秒后再启动hive)(hadoop102执行下面命令)

复制代码
hdp.sh start

6.启动hive客户端(hadoop102执行下面命令)

复制代码
cd /opt/mudule/hive
hive

7.查看数据库(hadoop102的hive客户端执行下面命令)

复制代码
 show databases;

如图就按照配置成功了

相关推荐
paopaokaka_luck10 小时前
基于springboot3+vue3的企业考勤管理系统(部门树递归、Echarts图形化分析)
开发语言·spring boot·学习·echarts·mybatis·需求分析·代码规范
minglie110 小时前
zynq高频小数据量PS闭环 抖动时间的测量
学习
V哥AI增长10 小时前
小红书笔记在生成式AI引擎中的可见性机制解析:从抓取原理到GEO工程化实践
大数据·人工智能·笔记
long31610 小时前
MySQL 学习练习(配套 01 入门资料)
数据库·学习·mysql
梦雨生生11 小时前
java开发工具(学习第一天)
java·开发语言·学习
Hotchip_MEMS14 小时前
当雾化器遇上MEMS:一场从交互到制造的全链路效率提升
人工智能·笔记·物联网·电脑·制造
是上好佳佳佳呀14 小时前
【深度学习|Day02】PyTorch 深度学习笔记(下):张量运算与自动微分
pytorch·笔记·深度学习
IT古董16 小时前
【MES学习笔记系列】05 - MES 数据库设计
笔记·学习·mes
不瘦80斤不改名17 小时前
05-vibe-coding-向agentic-engineering演进
人工智能·笔记·python·prompt
ZCBUS实时计算17 小时前
政务海量分库分表汇聚实战:基于 3 节点 ZCBUS 集群完成医保 10TB 数据实时整合
大数据·数据库·数据仓库·sql·dba·etl·政务