Hudi集成Flink

Hudi版本:0.15.0
Flink版本:1.17.2

目录

1. 准备工作

  1. 拷贝编译好的jar包到Flink的lib目录下

    bash 复制代码
    cp /opt/module/hudi-0.15.0/packaging/hudi-flink-bundle/target/hudi-flink1.17-bundle-0.15.0.jar /opt/module/flink-1.17.2/lib/
  2. 拷贝guava包,解决依赖冲突

    bash 复制代码
    cp /opt/module/hadoop-3.1.3/share/hadoop/common/lib/guava-27.0-jre.jar /opt/module/flink-1.17.2/lib/
  3. 配置Hadoop环境变量

    shell 复制代码
    export HADOOP_CLASSPATH=`hadoop classpath`
    export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop
相关推荐
无忧智库28 分钟前
跨行业数据要素可信流通体系建设:打破信任壁垒的完整工程方法论(WORD)
大数据·人工智能
小王毕业啦30 分钟前
2007-2024年 省级-农林牧渔总产值、农业总产值数据(xlsx)
大数据·人工智能·数据挖掘·数据分析·社科数据·实证分析·经管数据
数据皮皮侠33 分钟前
上市公司创新韧性数据(2000-2024)|顶刊同款 EIR 指数
大数据·人工智能·算法·智慧城市·制造
科研前沿1 小时前
纯视觉无感解算 + 动态数字孪生:室内外无感定位技术全新升级
大数据·人工智能·算法·重构·空间计算
科研前沿2 小时前
什么是时空融合技术?
大数据·人工智能·数码相机·算法·重构·空间计算
逸Y 仙X2 小时前
文章十九: ElasticSearch Full Text 全文本查询
java·大数据·数据库·elasticsearch·搜索引擎·全文检索
Justice Young2 小时前
Flink测试题目及知识点整理(一)
大数据·flink
njsgcs2 小时前
我有待做任务清单和不良操作图片集,如何设计ai agent协助我完成工作
大数据·人工智能
渣渣盟2 小时前
构建企业级实时数据管道:Kafka + Flink 最佳实践
分布式·flink·kafka
BizViewStudio3 小时前
甄选方法:2026 企业新媒体代运营的短视频精细化运营与流量转化技巧
大数据·网络·人工智能·媒体