【Hive】new HiveConf()时加载的配置浅析

简单看下源码:
org.apache.hadoop.hive.conf.HiveConf

HiveConf中有静态代码块,内容就是调用findConfigFile方法,尝试读取hive-default.xmlhive-site.xmlhivemetastore-site.xmlhiveserver2-site.xml。四个文件的内容。

java 复制代码
    static {
        ClassLoader classLoader = Thread.currentThread().getContextClassLoader();
        if (classLoader == null) {
            classLoader = HiveConf.class.getClassLoader();
        }

        hiveDefaultURL = classLoader.getResource("hive-default.xml");
        hiveSiteURL = findConfigFile(classLoader, "hive-site.xml", true);
        hivemetastoreSiteUrl = findConfigFile(classLoader, "hivemetastore-site.xml", false);
        hiveServer2SiteUrl = findConfigFile(classLoader, "hiveserver2-site.xml", false);
省略... 
}

findConfigFile方法就更简单了
System.getenv("...")就是查找系统环境变量HIVE_CONF_DIRHIVE_HOME,显然HIVE_CONF_DIRHIVE_HOME优先级更高。然后组装成路径,并读取文件内容。

java 复制代码
    private static URL findConfigFile(ClassLoader classLoader, String name, boolean doLog) {
        URL result = classLoader.getResource(name);
        if (result == null) {
            String confPath = System.getenv("HIVE_CONF_DIR");
            result = checkConfigFile(new File(confPath, name));
            if (result == null) {
                String homePath = System.getenv("HIVE_HOME");
                String nameInConf = "conf" + File.separator + name;
                result = checkConfigFile(new File(homePath, nameInConf));
                省略...

总结:

使用HiveConf特别简单额,设置好环境变量HIVE_CONF_DIRHIVE_HOME后就可以在代码中用了。
注意:是环境变量,不是java系统变量,即System.setProperty()和-D是不行的,这两项都是设置java变量,不是操作系统变量

相关推荐
火龙谷19 小时前
【hadoop】搭建考试环境(单机)
大数据·hadoop·分布式
liuze4081 天前
在VMware虚拟机集群中,完成Hive的安装部署
数据仓库·hive·hadoop
雷神乐乐1 天前
Hive优化详细讲解
数据仓库·hive·hadoop
Edingbrugh.南空1 天前
Hudi 与 Hive 集成
数据仓库·hive·hadoop
Edingbrugh.南空2 天前
Hive集成Paimon
数据仓库·hive·hadoop
limnade2 天前
云原生数仓 vs 传统数仓:深度拆解区别、优劣势及主流选型
数据仓库·云原生
isNotNullX2 天前
kettle好用吗?相较于国产ETL工具有哪些优劣之处?
大数据·数据库·数据仓库·信息可视化·etl
ThisIsClark2 天前
什么是Flink
数据仓库·flink
雷神乐乐2 天前
Hive的分区表(静态分区、动态分区)、分桶表、四种排序方式和数据加载方式
数据仓库·hive·hadoop
腾讯云大数据2 天前
平均性能提升70%,盖雅工场基于腾讯云数据仓库TCHouse-D构建实时报表平台
大数据·数据仓库·云计算·腾讯云