Flink快照保留多久、多少个,设置参数

我给你最完整、最准确、面试 + 生产都能用的版本,直接复制即可。


一、核心结论(先记这 3 个参数)

Flink 控制 快照保留多少个、保留多久,就靠这 3 个配置:

  1. 保留最近多少个 Checkpoint
  2. Checkpoint 保留时间(超时时间)
  3. 取消任务时是否删除快照

二、具体参数(代码版 + yaml 版)

1. 保留最近 N 个 Checkpoint(最常用)

默认:只保留 1 个 生产建议:保留 2~3 个

代码设置

java

运行

复制代码
// 保留最近 3 个 Checkpoint
checkpointConfig.setMaxNumberOfRetainedCheckpoints(3);

yaml 设置

yaml

复制代码
execution.checkpointing.num-retained: 3

2. Checkpoint 保留时长(超时时间)

超过这个时间没用,自动删除。

代码设置

java

运行

复制代码
// 保留 24 小时(单位毫秒)
checkpointConfig.setCheckpointRetention(24 * 60 * 60 * 1000);

yaml

yaml

复制代码
execution.checkpointing.timeout: 3600000

3. 任务取消 / 失败时,是否保留 Checkpoint

代码

java

运行

复制代码
// 取消任务时保留 Checkpoint(生产必开)
config.setExternalizedCheckpointCleanup(
    CheckpointConfig.ExternalizedCheckpointCleanup.RETAIN_ON_CANCELLATION
);

yaml

yaml

复制代码
execution.checkpointing.externalized-checkpoint-retention: RETAIN_ON_CANCELLATION

三、完整生产推荐配置(直接用)

yaml 完整版

yaml

复制代码
# 每 30s 做一次 CK
execution.checkpointing.interval: 30000

# 最多同时进行 1 个 CK
execution.checkpointing.max-concurrent-checkpoints: 1

# 保留最近 3 个快照
execution.checkpointing.num-retained: 3

# 取消任务时保留 CK
execution.checkpointing.externalized-checkpoint-retention: RETAIN_ON_CANCELLATION

# CK 超时时间 10 分钟
execution.checkpointing.timeout: 600000

代码完整版

java

运行

复制代码
StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();

// 30s 一次 CK
env.enableCheckpointing(30000);

CheckpointConfig config = env.getCheckpointConfig();

// 最多保留 3 个
config.setMaxNumberOfRetainedCheckpoints(3);

// 取消任务保留
config.setExternalizedCheckpointCleanup(RETAIN_ON_CANCELLATION);

// 异步快照
config.setAsyncSnapshot(true);

四、最关键的规则(面试必问)

  1. 保留数量优先 超过 num-retained:3 → 自动删除最旧的
  2. 保留时间次之超过保留时间 → 自动删除
  3. 取消任务是否保留
    • RETAIN_ON_CANCELLATION 保留
    • DELETE_ON_CANCELLATION 删除

五、一句话背诵版(面试满分)

Flink 通过 execution.checkpointing.num-retained 设置保留最近多少个 Checkpoint,通过 timeout 设置保留时长,通过 externalized-checkpoint-retention 控制取消任务时是否保留;默认只保留 1 个,生产建议保留 2-3 个,防止快照损坏无法恢复。

相关推荐
wuyk55511 小时前
Spider-第20讲-综合实战可上线爬虫
大数据·爬虫·python·elasticsearch
培培说证11 小时前
大数据与会计专业性价比高的证书有哪些?
大数据
伞伞悦读13 小时前
【第90期】KNN分类回归流水线与K值对照的实验与排查
大数据·人工智能·python·深度学习·机器学习
老余说AI13 小时前
跨境电商、课程出海:六款多语言视频翻译工具选型指南
大数据·运维·人工智能
starzy199013 小时前
Structured Streaming 模块与编程模型:引擎内部到底由什么组成
大数据·hadoop·hdfs
Lansonli14 小时前
大数据Spark(九十二):Spark WebUI介绍
大数据·分布式·spark
AI_Auto16 小时前
数字化转型工作手册⑨|干什么①:数字化转型能拿到哪三类价值效益?
大数据·架构·制造
注塑机数据采集联网16 小时前
注塑机智能数据采集联网网关 ZK-D1/D3 如何读取力劲注塑机控制器数据并对接 MES/IOT 平台
大数据·网络·物联网·数据挖掘·注塑机网关
黑十1 天前
FDE 怎么快速搭一个可演示页面?最小前端方案
java·大数据·前端·数据库·人工智能
Databend1 天前
OpenRaft 自定义 Membership,按部署拓扑选择 Quorum
大数据·数据库·数据分析