Idea本地跑flink任务时,总是重复消费kafka的数据(kafka->mysql)

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

Idea中执行任务时,没法看到JobManager的错误,以至于我以为是什么特殊的原因导致任务总是反复消费。在close方法中,增加日志,发现jdbc连接被关闭了。 重新消费,jdbc连接又启动了。

注意,在Flink的函数中,open和close方法只在任务启动和结束的时候执行一次。反之,可以推理出,如果close方法被执行了,那么说明任务挂了。

在本地任务中增加本地Flink UI,很明显可以看到任务在不断的重启。JobManager中有明显的Exception,就是

java 复制代码
SQLSyntaxErrorException: Unknown column 'day_after_back' in 'field list'
相关推荐
starzy199017 小时前
Flink Sliding Window 详解及代码实现:从窗口重叠到状态爆炸防控
运维·数据库·flink
松树戈18 小时前
idea查找实体字段调用情况Find Usages找不到Value write(字段赋值的地方)解决措施
intellij-idea
Gl�ria20 小时前
Yarn NM 常驻Flink任务下线:stop/savepoint 释放容器
flink·yarn
吉甫作诵21 小时前
Kafka 集群安装与运维实战:消费组排查、Offset 重置与副本重分配
大数据·运维·分布式·kafka·消息队列
TLA技术21 小时前
LogMiner vs 裸日志解析(三):Oracle日志解析中的“前镜像”和“后镜像”,到底怎么用?
数据库·oracle·flink·dba·迁移学习
starzy19901 天前
Flink Session Window 详解及代码实现:从用户会话切割到窗口合并机制
java·flink
imDwAaY1 天前
消息队列四大核心问题:顺序性、幂等性、可靠性与一致性
学习·kafka·rabbitmq
wno7041 天前
Spring Boot整合Kafka
spring boot·kafka
滕州市燕猫虎计算机科技工作室个体工商户2 天前
IDEA:Command line is too long
java·ide·intellij-idea
golang学习记2 天前
不用再装RestfulKit!IDEA原生快捷键一键检索后端接口
intellij-idea