Flink 失败重试策略 :restart-strategy.type

在 Apache Flink 中,restart-strategy.type 用于指定作业的重启策略(Restart Strategy),它决定了作业在失败后如何恢复。

Flink 提供了 4 种内置重启策略 ,可以通过 flink-conf.yaml 或代码动态配置。


1. 可配置的 restart-strategy.type

策略类型 配置值 (restart-strategy.type) 说明
固定延迟重启 fixed-delay 每次失败后固定延迟一段时间重启。
失败阈值重启 failure-rate 在时间窗口内允许一定次数的失败,超过则放弃。
指数延迟重启 exponential-delay 每次失败后延迟时间指数增长(适合短时故障)。
不重启(直接失败) disable, off, none 作业失败后直接终止,不尝试恢复(默认策略)。

2. 详细配置方式

yaml 复制代码
# 固定延迟重启
restart-strategy.type: fixed-delay
restart-strategy.fixed-delay.attempts: 3       # 最大尝试次数
restart-strategy.fixed-delay.delay: 10 s       # 每次重启的延迟时间

# 失败率重启
restart-strategy.type: failure-rate
restart-strategy.failure-rate.max-failures-per-interval: 3  # 时间窗口内允许的失败次数
restart-strategy.failure-rate.failure-rate-interval: 5 min  # 时间窗口长度
restart-strategy.failure-rate.delay: 10 s      # 每次重启的延迟时间

# 指数延迟重启
restart-strategy.type: exponential-delay
restart-strategy.exponential-delay.initial-backoff: 1 s     # 初始延迟
restart-strategy.exponential-delay.max-backoff: 1 min       # 最大延迟
restart-strategy.exponential-delay.backoff-multiplier: 2.0  # 延迟倍数(指数增长)
restart-strategy.exponential-delay.reset-backoff-threshold: 5 min  # 重置延迟的时间窗口
restart-strategy.exponential-delay.jitter-factor: 0.1       # 随机抖动因子(避免集群同时重启)

# 不重启(直接失败) (默认策略)
restart-strategy.type: none

2.2 通过代码动态配置

java 复制代码
StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();

// 固定延迟重启
env.setRestartStrategy(
    RestartStrategies.fixedDelayRestart(
        3,      // 最大尝试次数
        Time.seconds(10)  // 延迟时间
    )
);

// 失败率重启
env.setRestartStrategy(
    RestartStrategies.failureRateRestart(
        3,              // 时间窗口内允许的失败次数
        Time.minutes(5), // 时间窗口长度
        Time.seconds(10) // 延迟时间
    )
);

// 指数延迟重启
env.setRestartStrategy(
    RestartStrategies.exponentialDelayRestart(
        Time.seconds(1),  // 初始延迟
        Time.minutes(1),  // 最大延迟
        2.0,             // 延迟倍数
        Time.minutes(5),  // 重置延迟的时间窗口
        0.1              // 随机抖动因子
    )
);

// 不重启
env.setRestartStrategy(RestartStrategies.noRestart());

3. 各策略的适用场景

策略 适用场景
fixed-delay 通用场景,适合大多数作业(如短暂网络故障)。
failure-rate 需要严格限制失败次数的场景(如依赖外部服务不可用时快速放弃)。
exponential-delay 短时故障频发时避免雪崩效应(如 Kafka 短暂不可用)。
none 测试环境或无需自动恢复的作业(如一次性批处理任务)。

参考官方文档:

https://nightlies.apache.org/flink/flink-docs-release-1.20/docs/deployment/config/#restart-strategy-type

相关推荐
soso(找工作版16 小时前
【阿里巴巴大数据之路】事实表设计
大数据
我星期八休息17 小时前
C++智能指针全面解析:原理、使用场景与最佳实践
java·大数据·开发语言·jvm·c++·人工智能·python
wudl556618 小时前
flink sql 所有函数详细用例
大数据·sql·flink
luoganttcc19 小时前
是凯恩斯主义主导 西方的经济决策吗
大数据·人工智能·金融·哲学
武子康19 小时前
大数据-130 - Flink CEP 详解 - 捕获超时事件提取全解析:从原理到完整实战代码教程 恶意登录案例实现
大数据·后端·flink
分布式存储与RustFS19 小时前
存算一体架构的先行者:RustFS在异构计算环境下的探索与实践
大数据·人工智能·物联网·云原生·对象存储·minio·rustfs
智能化咨询21 小时前
Flink受管状态自定义序列化的可演进设计与未来趋势
flink
yumgpkpm1 天前
CMP (类ClouderaCDP7.3(404次编译) )华为鲲鹏Aarch64(ARM)信创环境 查询2100w行 hive 查询策略
数据库·数据仓库·hive·hadoop·flink·mapreduce·big data
wudl55661 天前
Flink 1.20 flink-config.yml 配置详解
大数据·flink
华东数交1 天前
企业与国有数据资产:入表全流程管理及资产化闭环理论解析
大数据·人工智能