Idea本地跑flink任务时,总是重复消费kafka的数据(kafka->mysql)

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

Idea中执行任务时,没法看到JobManager的错误,以至于我以为是什么特殊的原因导致任务总是反复消费。在close方法中,增加日志,发现jdbc连接被关闭了。 重新消费,jdbc连接又启动了。

注意,在Flink的函数中,open和close方法只在任务启动和结束的时候执行一次。反之,可以推理出,如果close方法被执行了,那么说明任务挂了。

在本地任务中增加本地Flink UI,很明显可以看到任务在不断的重启。JobManager中有明显的Exception,就是

java 复制代码
SQLSyntaxErrorException: Unknown column 'day_after_back' in 'field list'
相关推荐
Match_h11 分钟前
Debezium + Kafka-connect 实现Postgres实时同步Hologres
kafka·debezium·数据库实时同步·kafka-connect
臣妾写不来啊3 小时前
2025/03/19 Cursor使用方法(Java方向,适合Java后端把家从idea搬家到cursor)
java·ide·intellij-idea
岁岁岁平安4 小时前
SpringBoot3+Vue3实战(Vue3快速开发登录注册页面并对接后端接口)(4)
javascript·vue.js·elementui·java-ee·intellij-idea·springboot
梦想歌4 小时前
告别MQ强耦合!一文了解如何实现消息队列无缝切换
spring boot·kafka·rocketmq
apeiMark4 小时前
Kafka-ConsumerRecord
分布式·kafka·linq
逆袭的小学生5 小时前
Flink TM数据传输时的内存分配
大数据·flink
AiryView5 小时前
自画flink、spark源码学习流程大图分享
flink·spark·源码学习
心灵宝贝5 小时前
IntelliJ IDEA 2023.3.1安装指南从下载到配置的完整教程(附资源下载)
java·ide·intellij-idea
codingPower7 小时前
IntelliJ IDEA 中 Git 高频问题与操作详解|新手避坑指南
java·git·intellij-idea
莓事哒7 小时前
Java Web应用程序实现用户登录、学生信息管理和验证码验证以及页面跳转等基本功能(IDEA)含(Ajax、JSTL)
java·前端·intellij-idea