Flink 命令行提交、展示和取消作业

Apache Flink 是一个流处理和批处理的开源框架,用于在分布式环境中执行无边界和有边界的数据流。你可以使用 Flink 的命令行界面(CLI)来提交、展示和取消作业。

提交作业

使用 Flink CLI 提交作业的命令格式通常如下:

bash 复制代码
./bin/flink run -m <jobmanager_host>:<jobmanager_port> -c <entrypoint_class> <jar_file_path> <arguments>
  • -m <jobmanager_host>:<jobmanager_port>:指定 JobManager 的地址和端口。
  • -c <entrypoint_class>:指定 JAR 文件中包含作业入口点的类。
  • <jar_file_path>:要提交的 JAR 文件的路径。
  • <arguments>:传递给作业的任何可选参数。

例如:

bash 复制代码
./bin/flink run -m localhost:6123 -c com.example.MyFlinkJob /path/to/my-flink-job.jar --input /path/to/input --output /path/to/output

展示作业

要查看 Flink 集群上正在运行的作业,你可以使用 Flink 的 Web UI。默认情况下,Web UI 可以在 JobManager 的 8081 端口上访问(例如,http://localhost:8081/)。在 Web UI 上,你可以看到所有正在运行的作业、它们的任务、以及相关的性能指标。

另外,你也可以使用 Flink CLI 的 list 命令来列出正在运行的作业:

bash 复制代码
./bin/flink list -m <jobmanager_host>:<jobmanager_port>

取消作业

要取消 Flink 集群上正在运行的作业,你可以使用 Flink CLI 的 cancel 命令,并指定作业的 ID:

bash 复制代码
./bin/flink cancel -m <jobmanager_host>:<jobmanager_port> <job_id>

其中 <job_id> 是你想要取消的作业的 ID。你可以通过 Flink Web UI 或 list 命令来获取作业的 ID。

例如:

bash 复制代码
./bin/flink cancel -m localhost:6123 00000000000000000000000000000000

注意:你需要确保你有足够的权限来提交、展示和取消作业。在某些环境中,可能需要特定的身份验证或授权。

相关推荐
大大大大晴天1 天前
深入解析 Flink Kafka Connector:原理、配置与最佳实践
flink
大大大大晴天2 天前
Hudi技术内幕:RecordPayload到RecordMerger
大数据
SelectDB3 天前
秒级弹性、最高降本 70%:SelectDB Serverless 如何重塑云数仓资源效率
大数据·后端·云原生
WhoAmI3 天前
MapReduce框架原理解析一:InputFormat
大数据·hadoop
WhoAmI3 天前
MapReduce框架原理解析三:OutputFormat
大数据·hadoop
WhoAmI3 天前
MapReduce框架原理解析二:Shuffle
大数据·hadoop
大大大大晴天4 天前
Hudi技术内幕:Key Generation原理与实践
大数据
得物技术7 天前
从埋点需求到规则资产:Hermes Agent 重构得物数仓工作流
大数据·llm·ai编程
久美子7 天前
AI驱动数仓建设的Harness工程实践——本体建模、知识分层与上下文工程
大数据
大树888 天前
金刚石散热越强,管路越先见顶
大数据·运维·服务器·人工智能·ai