flink中checkpoint的重启策略

在Apache Flink中,检查点(Checkpoint) 是保障流处理任务容错性的核心机制,而重启策略(Restart Strategy) 则定义了任务失败后的恢复行为。二者协同工作,确保作业的持续性和状态一致性。以下是重启策略的常见类型及配置方法:

那为什么开启检查点之后,报错了程序还在运行?因为开启检查点之后,程序会进行自动重启(无限重启【程序错了才重启】)


一、重启策略类型

  1. 固定间隔策略(Fixed Delay Restart Strategy)

    在失败后以固定时间间隔重试,直至达到最大尝试次数。
    参数

    • restart-strategy.fixed-delay.attempts: 最大重启尝试次数(例如 3
    • restart-strategy.fixed-delay.delay: 重启间隔(例如 10s

    配置示例

    复制代码
    env.setRestartStrategy(
        RestartStrategies.fixedDelayRestart(3, Time.seconds(10))
    );
  2. 失败率策略(Failure Rate Restart Strategy)

    在指定时间窗口内,若失败次数超过阈值则停止重启。
    参数

    • restart-strategy.failure-rate.max-failures-per-interval: 时间窗口内允许的最大失败次数(例如 5
    • restart-strategy.failure-rate.failure-rate-interval: 时间窗口长度(例如 5min
    • restart-strategy.failure-rate.delay: 失败后的重启间隔(例如 10s

    配置示例

    复制代码
    env.setRestartStrategy(
        RestartStrategies.failureRateRestart(
            5, Time.minutes(5), Time.seconds(10)
        )
    );
  3. 不重启策略(No Restart Strategy)

    任务失败后直接停止,不尝试重启。
    配置示例

    复制代码
    env.setRestartStrategy(RestartStrategies.noRestart());

二、与检查点的协同

  • 检查点作用:定期保存状态快照,重启时从最近的有效检查点恢复状态。
  • 重启触发条件:任务失败后,Flink自动加载检查点状态,并根据重启策略决定是否重新调度任务。

三、配置注意事项

  1. 全局配置 :可在 flink-conf.yaml 中设置默认策略,例如:

    复制代码
    restart-strategy: fixed-delay
    restart-strategy.fixed-delay.attempts: 5
    restart-strategy.fixed-delay.delay: 15s
  2. 代码级覆盖 :通过 ExecutionEnvironment 的API可覆盖全局配置。

  3. 检查点超时 :需确保 checkpoint timeout 大于任务恢复时间,避免检查点失效。


四、总结

选择合适的重启策略需结合业务需求:

  • 高可用场景 :优先使用 Failure Rate 策略,避免频繁失败导致资源耗尽。
  • 批处理任务 :可选用 Fixed Delay 策略,限制重试次数。
  • 关键任务 :避免使用 No Restart,除非需人工介入排查故障。

通过合理配置检查点与重启策略,可显著提升Flink作业的健壮性。

相关推荐
EasyGBS10 分钟前
ONVIF设备接入国标GB28181视频平台EasyGBS:不用国标也能一键拉流!
服务器·php·音视频
nVisual1 小时前
机柜PDU安装位置与空间建模方案
大数据·网络·数据库·信息可视化·数据中心基础设施管理
小小代码狗1 小时前
SQLi-Labs 基础注入实战教程(Less-1 ~ Less-5and Less-9)
服务器·python·php
慕伏白1 小时前
【慕伏白】Linux 系统如何根据端口号关闭进程
linux·运维·服务器
@insist1231 小时前
系统规划与管理师-流程评价与持续改进核心知识-终章
大数据·人工智能·软考·系统规划与管理师·软件水平考试·系统规划与管理工程师
蓝创工坊Blue Foundry1 小时前
图片文字提取到 Excel:批量任务如何先定义要交付的字段
运维·服务器·开发语言·数据库·自动化·ocr·excel
晚风吹长发2 小时前
Docker使用——Docker容器及相关命令
linux·运维·服务器·docker·容器·架构
TechEdu2026062 小时前
[计算机科学]大数据硬件架构与软件架构概览
大数据·计算机科学
爱莉希雅&&&2 小时前
elasticsearch+kibana+logstash+filebeat链路部署流程
大数据·elasticsearch·搜索引擎·kibana·logstash·filebeat
FII工业富联科技服务3 小时前
从灯塔工厂到AI Factory新模式:AI正在重构制造业的四大核心能力
大数据·运维·人工智能·重构·ar·制造