Hudi集成Flink

Hudi版本:0.15.0
Flink版本:1.17.2

目录

1. 准备工作

  1. 拷贝编译好的jar包到Flink的lib目录下

    bash 复制代码
    cp /opt/module/hudi-0.15.0/packaging/hudi-flink-bundle/target/hudi-flink1.17-bundle-0.15.0.jar /opt/module/flink-1.17.2/lib/
  2. 拷贝guava包,解决依赖冲突

    bash 复制代码
    cp /opt/module/hadoop-3.1.3/share/hadoop/common/lib/guava-27.0-jre.jar /opt/module/flink-1.17.2/lib/
  3. 配置Hadoop环境变量

    shell 复制代码
    export HADOOP_CLASSPATH=`hadoop classpath`
    export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop
相关推荐
m0_5270343319 分钟前
异步任务审核系统设计:消息队列、超时重试与失败补偿
java·大数据·开发语言
只说证事1 小时前
大数据专业考研还是考证比较好
大数据·考研
用户3610588626121 小时前
Spark 核心之 Spark-SortShufflebypass 原理深度剖析
大数据·spark
Raas1002 小时前
MAIGateway,魔芋企业级AI网关的安全基建化设计
大数据·人工智能·网关·网络安全·api网关·mai gateway·魔芋
vx-程序开发2 小时前
django汽车租赁系统---附源码25360
java·javascript·spring boot·python·eclipse·django·php
Anita-lee2 小时前
泛娱乐出海 APP 运营研究:用户量下滑成因与多语种客服数据化运营解决方案
大数据·产品运营·服务发现·娱乐
笨鸟先飞,勤能补拙2 小时前
AI Agent应用领域深度解析:从概念到落地的全维度审视
大数据·人工智能·python·物联网·安全·网络安全·github
Francek Chen2 小时前
【大数据处理与分析】数据仓库Hive:02 数据湖
大数据·数据仓库·hive·hadoop·分布式·数据分析
IT小白杨3 小时前
从Chromium重构到真实ARM云手机:多账号隔离方案的技术演进
大数据·经验分享·智能手机·重构·安全架构·指纹浏览器
躺柒3 小时前
读数据可视化01可视化简史
大数据·信息可视化·数据分析·数据可视化·视觉