Hudi集成Flink

Hudi版本:0.15.0
Flink版本:1.17.2

目录

1. 准备工作

  1. 拷贝编译好的jar包到Flink的lib目录下

    bash 复制代码
    cp /opt/module/hudi-0.15.0/packaging/hudi-flink-bundle/target/hudi-flink1.17-bundle-0.15.0.jar /opt/module/flink-1.17.2/lib/
  2. 拷贝guava包,解决依赖冲突

    bash 复制代码
    cp /opt/module/hadoop-3.1.3/share/hadoop/common/lib/guava-27.0-jre.jar /opt/module/flink-1.17.2/lib/
  3. 配置Hadoop环境变量

    shell 复制代码
    export HADOOP_CLASSPATH=`hadoop classpath`
    export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop
相关推荐
大大大大晴天21 小时前
Hudi Metadata Table 与 Hive Sync (HMS)怎么选?
大数据
手可摘星辰7771 天前
一次线上FlinkCDC异常排查复盘
大数据·flink
大大大大晴天1 天前
Hudi技术内幕:Metadata Table原理与实践
大数据
大大大大晴天2 天前
Hudi技术内幕:深入解析Index索引机制
大数据
阿里云大数据AI技术2 天前
Flink Forward Asia 2026 深圳启幕:Agentic Streaming for AI,开启实时智能新范式
大数据·flink
SelectDB3 天前
阶跃星辰基于 SelectDB 构建 PB 级 Agent 可观测平台
大数据·数据库·aigc
tonyabasy4 天前
Flink 实时数仓开发实战:SQL中也能做到资源精细化管理
flink
大大大大晴天4 天前
浅聊Flink实时关联计算的不适用场景
flink
大大大大晴天5 天前
深入解析 Flink Kafka Connector:原理、配置与最佳实践
flink
大大大大晴天6 天前
Hudi技术内幕:RecordPayload到RecordMerger
大数据