flink1.18源码本地调试环境

01 源码本地调试环境搭建

1. 从github拉取源码创建本地项⽬

https://github.com/apache/flink.git

可以拉取github上官⽅代码

https://github.com/apache/flink.git
GitHub - apache/flink: Apache Flink

2. 配置编译环境

ctrl+alt+shift+s (或菜单)打开项⽬结构,确保jdk版本为1.8,scala版本最好为2.12.73. 源码编译

跳过调试

4、准备运⾏环境

• 在项⽬根⽬录下,创建如下两个⽂件夹: 找到如下⼦模块,并展开如图
• 将上图中conf下的⽂件,拷⻉到项⽬根⽬录下创建的conf下
• 将上图中的lib下的jar包,拷⻉到项⽬根⽬录下创建的distlib下

5、编译中遇到的问题

编译 Flink Shaded

  • 进入 Flink 源码目录,并切换到相应的 Shaded 版本分支,例如 flink-shaded-193。

  • 执行 Maven 命令来编译 Flink Shaded 19 版本:

    复制代码

    mvn clean package -DskipTests
    这将编译 Flink Shaded 19 并生成相应的构建产物

运行 Checkstyle 检查

  • 在修正了代码风格问题后,你可以单独运行 Checkstyle 插件来检查问题是否已经解决。使用以下 Maven 命令:

    复制代码

    mvn checkstyle:check

  • 如果之前没有配置 Checkstyle,或者你想使用不同的配置文件,可以通过 -DconfigLocation 参数指定 Checkstyle 配置文件:

    复制代码

    mvn checkstyle:check -DconfigLocation=checkstyle.xml

整合到构建流程

一旦所有的 Checkstyle 违规问题都被解决,并且本地构建成功,你可以再次尝试完整的 Maven 构建流程:

复制代码

复制

mvn clean package -DskipTests

先去https://mvnrepository.com去搜索下载

发现https://maven.ceon.pl/artifactory/repo/io/confluent/kafka-schema-registry-client/7.2.2/ 大 小有问题。爆了以下错误

[ERROR] Failed to execute goal org.apache.maven.plugins:maven-compiler-plugin:3.8.0:compile (default-compile) on project flink-avro-confluent-registry: Compilation failure: Compilation failure:

[ERROR] error reading /Users/AllenBai/.m2/repository/io/confluent/kafka-schema-registry-client/3.3.1/kafka-schema-registry-client-7.2.2.jar; error in opening zip file

[ERROR] error reading /Users/AllenBai/.m2/repository/io/confluent/kafka-schema-registry-client/7.2.2/kafka-schema-registry-client-7.2.2.jar; error in opening zip file

wget http://packages.confluent.io/maven/io/confluent/kafka-schema-registry-client/7.2.2/kafka-schema-registry-client-7.2.2.jar

安装

mvn install:install-file -DgroupId='io.confluent' -DartifactId='kafka-schema-registry-client' -Dversion='7.2.2' -Dpackaging='jar' -Dfile='D:/Tools/jar/kafka-schema-registry-client-7.2.2.jar' '-DskipTests' '-Dmaven.javadoc.skip=true' '-Dmaven.compile.fork=true'

编译成功

相关推荐
soso196821 分钟前
DataWorks快速入门
大数据·数据仓库·信息可视化
The_Ticker27 分钟前
CFD平台如何接入实时行情源
java·大数据·数据库·人工智能·算法·区块链·软件工程
java1234_小锋32 分钟前
Elasticsearch中的节点(比如共20个),其中的10个选了一个master,另外10个选了另一个master,怎么办?
大数据·elasticsearch·jenkins
Elastic 中国社区官方博客33 分钟前
Elasticsearch 开放推理 API 增加了对 IBM watsonx.ai Slate 嵌入模型的支持
大数据·数据库·人工智能·elasticsearch·搜索引擎·ai·全文检索
我的运维人生33 分钟前
Elasticsearch实战应用:构建高效搜索与分析平台
大数据·elasticsearch·jenkins·运维开发·技术共享
大数据编程之光1 小时前
Flink Standalone集群模式安装部署全攻略
java·大数据·开发语言·面试·flink
B站计算机毕业设计超人1 小时前
计算机毕业设计SparkStreaming+Kafka旅游推荐系统 旅游景点客流量预测 旅游可视化 旅游大数据 Hive数据仓库 机器学习 深度学习
大数据·数据仓库·hadoop·python·kafka·课程设计·数据可视化
在下不上天2 小时前
Flume日志采集系统的部署,实现flume负载均衡,flume故障恢复
大数据·开发语言·python
智慧化智能化数字化方案3 小时前
华为IPD流程管理体系L1至L5最佳实践-解读
大数据·华为
PersistJiao4 小时前
在 Spark RDD 中,sortBy 和 top 算子的各自适用场景
大数据·spark·top·sortby