Flink 命令行提交、展示和取消作业

Apache Flink 是一个流处理和批处理的开源框架,用于在分布式环境中执行无边界和有边界的数据流。你可以使用 Flink 的命令行界面(CLI)来提交、展示和取消作业。

提交作业

使用 Flink CLI 提交作业的命令格式通常如下:

bash 复制代码
./bin/flink run -m <jobmanager_host>:<jobmanager_port> -c <entrypoint_class> <jar_file_path> <arguments>
  • -m <jobmanager_host>:<jobmanager_port>:指定 JobManager 的地址和端口。
  • -c <entrypoint_class>:指定 JAR 文件中包含作业入口点的类。
  • <jar_file_path>:要提交的 JAR 文件的路径。
  • <arguments>:传递给作业的任何可选参数。

例如:

bash 复制代码
./bin/flink run -m localhost:6123 -c com.example.MyFlinkJob /path/to/my-flink-job.jar --input /path/to/input --output /path/to/output

展示作业

要查看 Flink 集群上正在运行的作业,你可以使用 Flink 的 Web UI。默认情况下,Web UI 可以在 JobManager 的 8081 端口上访问(例如,http://localhost:8081/)。在 Web UI 上,你可以看到所有正在运行的作业、它们的任务、以及相关的性能指标。

另外,你也可以使用 Flink CLI 的 list 命令来列出正在运行的作业:

bash 复制代码
./bin/flink list -m <jobmanager_host>:<jobmanager_port>

取消作业

要取消 Flink 集群上正在运行的作业,你可以使用 Flink CLI 的 cancel 命令,并指定作业的 ID:

bash 复制代码
./bin/flink cancel -m <jobmanager_host>:<jobmanager_port> <job_id>

其中 <job_id> 是你想要取消的作业的 ID。你可以通过 Flink Web UI 或 list 命令来获取作业的 ID。

例如:

bash 复制代码
./bin/flink cancel -m localhost:6123 00000000000000000000000000000000

注意:你需要确保你有足够的权限来提交、展示和取消作业。在某些环境中,可能需要特定的身份验证或授权。

相关推荐
Hello.Reader29 分钟前
TopK算法在大数据重复数据分析中的应用与挑战
大数据·算法·数据分析
数据龙傲天1 小时前
1688商品API接口:电商数据自动化的新引擎
java·大数据·sql·mysql
Elastic 中国社区官方博客1 小时前
Elasticsearch:使用 LLM 实现传统搜索自动化
大数据·人工智能·elasticsearch·搜索引擎·ai·自动化·全文检索
Jason不在家3 小时前
Flink 本地 idea 调试开启 WebUI
大数据·flink·intellij-idea
Elastic 中国社区官方博客4 小时前
使用 Vertex AI Gemini 模型和 Elasticsearch Playground 快速创建 RAG 应用程序
大数据·人工智能·elasticsearch·搜索引擎·全文检索
CHICX12295 小时前
【Hadoop】改一下core-site.xml和hdfs-site.xml配置就可以访问Web UI
xml·大数据·hadoop
权^5 小时前
MySQL--聚合查询、联合查询、子查询、合并查询(上万字超详解!!!)
大数据·数据库·学习·mysql
bin915310 小时前
【EXCEL数据处理】000010 案列 EXCEL文本型和常规型转换。使用的软件是微软的Excel操作的。处理数据的目的是让数据更直观的显示出来,方便查看。
大数据·数据库·信息可视化·数据挖掘·数据分析·excel·数据可视化
极客先躯12 小时前
Hadoop krb5.conf 配置详解
大数据·hadoop·分布式·kerberos·krb5.conf·认证系统
2301_7869643615 小时前
3、练习常用的HBase Shell命令+HBase 常用的Java API 及应用实例
java·大数据·数据库·分布式·hbase