记第一次跟踪seatunnel的任务运行过程二——ClientJobExecutionEnvironment的execture方法

前绪

记第一次跟踪seatunnel的任务运行过程

正题

创建LogicalDag

创建一个LogicalDag,根据代码注释理解LogicalDag里维护的就是任务配置文件中的source、transformer、sink。

java 复制代码
LogicalDag logicalDag = getLogicalDag();

本次任务的固定信息

固定本此job的固定信息,其中要注意的就是jarUrls和connectorJarIdentifiers,就是你部署的seatunnel服务下libs下的依赖的第三方jar包,以及connector下的的连接器。job执行用到第三方jar或者connector时就会从这里获取。

java 复制代码
JobImmutableInformation jobImmutableInformation = new JobImmutableInformation(
	Long.parseLong(jobConfig.getJobContext().getJobId()),
	jobConfig.getName(),
	isStartWithSavePoint,
	seaTunnelHazelcastClient.getSerializationService().toData(logicalDag),
	jobConfig,
	new ArrayList<>(jarUrls),
	new ArrayList<>(connectorJarIdentifiers)
);

创建并返回代理对象,过程中完成了任务的提交

根据前面收集到的job信息,创建一个job代理并返回,同时在这个过程中完成job的提交:封装成一个任务,提交给Hazelcast去执行。

java 复制代码
return jobClient.createJobProxy(jobImmutableInformation);

提交任务

jobClient的createJobProxy方法中创建了一个ClientJobProxy对象,在ClientJobProxy的构造函数中完成了job的提交。

java 复制代码
    public ClientJobProxy(
            @NonNull SeaTunnelHazelcastClient seaTunnelHazelcastClient,
            @NonNull JobImmutableInformation jobImmutableInformation) {
        this.seaTunnelHazelcastClient = seaTunnelHazelcastClient;
        this.jobId = jobImmutableInformation.getJobId();
        submitJob(jobImmutableInformation);
    }

submitJob方法

创建一个ClientMessage对象后,构建一个job执行的PassiveCompletableFuture对象submitJobFuture,调用对象的join方法。

结束

任务提交完成,在主流程(ClientJobExecutionEnvironment的execture方法)中等待任务的结果。

java 复制代码
JobResult jobResult = clientJobProxy.waitForJobCompleteV2();
相关推荐
Str_Null1 小时前
Seatunnel运行时报错Caused by: java.lang.NoClassDefFoundError: com/mysql/cj/MysqlType
java·seatunnel
Str_Null1 天前
Seatunnel解决Excel中无法将数字类型转换成字符串类型以及源码打包
java·excel·seatunnel·源码修改
向阳12181 个月前
Apache SeaTunnel 介绍
apache·cdc·seatunnel
KawYang3 个月前
Seatunnel Web 无数据源问题
seatunnel·seatunnel web
ApacheSeaTunnel3 个月前
中电信翼康济世数据中台基于Apache SeaTunnel构建数据集成平台经验分享
人工智能·医疗·数据集成·seatunnel·中国电信
最笨的羊羊8 个月前
海豚调度系列之:任务类型——Apache SeaTunnel
apache·任务类型·seatunnel·海豚调度系列
学不透java不改名10 个月前
Apache SeaTunnel (不含web) Window11 本机搭建(非源码)
apache·seatunnel
崔二旦10 个月前
SeaTunnel Web安装 一把成
seatunnel
嫣夜来1 年前
SeaTunnel及SeaTunnel Web部署指南(小白版)
java·数据集成·seatunnel