任务流之间的调度依赖

检查任务

java 复制代码
import java.sql.SQLException;
import java.util.concurrent.Executors;
import java.util.concurrent.ScheduledExecutorService;
import java.util.concurrent.TimeUnit;

/**
 * 每一个有依赖其他flow的flow,都要先进行依赖的检查
 * 这是一个切面
 */
public class FlowCheck {


    private static String flow_id = "order";

    public static void main(String[] args) {

        ScheduledExecutorService service = Executors.newScheduledThreadPool(1);

        final MysqlDao azkabanDao = new MysqlDao();

        if (System.getProperties().getProperty("os.name").contains("Windows")) {

        } else {
            flow_id = args[0];
        }

        /**
         * 坑,会吞掉异常
         */
        service.scheduleAtFixedRate(new Runnable() {
            @Override
            public void run() {


                try {
                    MysqlDao.AzkabanExecInfo info = azkabanDao.getAzkabanJobExecInfo(flow_id);

                    /**
                     * {"ok":false,"reason":"submitDay is 2022-09-29 and today is 2022-09-30","status":"50"}
                     */
                    String output = JsonUtil.getJsonStrFromObj(info);

                    if (info.getOk()) {

                        System.out.println(output);

                        service.shutdown();
                    } else {

                        if ("30".equals(info.getStatus())) {
                            //wait
                        } else {
                            System.out.println(output);
                            service.shutdown();
                        }

                    }


                } catch (SQLException throwables) {
                    throwables.printStackTrace();
                }


            }
        }, 0, 5, TimeUnit.SECONDS);

    }
}

jobA

java 复制代码
#!/bin/bash
echo "do JobA"



r=`java -cp ./scheduler-1.0-SNAPSHOT-jar-with-dependencies.jar com.mz.scheduler.FlowCheck common_process`



echo 'result is:'$r

echo ${r} >> "${JOB_OUTPUT_PROP_FILE}"

jobB

新的flow开启的第一个job

java 复制代码
#!/bin/bash
echo "do JobB"

定义flow

jobA和jobB任务依赖文件

java 复制代码
nodes:
  - name: jobA
    type: command
    config:
      command: sh jobA.sh


  - name: jobB
    type: command
    dependsOn:
      - jobA
    config:
      command: sh jobB.sh
    condition: ${jobA:ok} == "true"

打包

这种情况下的打包需要将jar包一同打入zip

因为JobA引用了java处理的逻辑

相关推荐
蒙特卡洛的随机游走8 分钟前
Spark的persist和cache
大数据·分布式·spark
皮皮林5519 分钟前
MinIO 不再“开放”,RustFS 能否成为更优选择?
java
蒙特卡洛的随机游走10 分钟前
Spark 中 distribute by、sort by、cluster by 深度解析
大数据·分布式·spark
梦里不知身是客1110 分钟前
Spark中的宽窄依赖-宽窄巷子
大数据·分布式·spark
多喝开水少熬夜17 分钟前
树与图的深度和广度优先遍历-java实现邻接表存储
java·深度优先·宽度优先
潲爺30 分钟前
Java IDEA学习之路:第九周课程笔记归纳
java·学习·intellij-idea
化作星辰40 分钟前
java 给鉴权kafka2.7(sasl)发送消息权限异常处理
java·大数据·开发语言·kafka
user_admin_god1 小时前
企业级管理系统的站内信怎么轻量级优雅实现
java·大数据·数据库·spring boot
q***82911 小时前
Spring Boot 3.3.4 升级导致 Logback 之前回滚策略配置不兼容问题解决
java·spring boot·logback
Kuo-Teng1 小时前
LeetCode 206: Reverse Linked List
java·算法·leetcode·职场和发展