Flink 写入 Doris 常见报错和问题

字段数量、格式问题

task 一启动就会有明确的报错,直接调整即可

运行一会报错,报错中有个 doris 链接

可以通过链接访问拿到报错日志,里面有错误信息

长度之类的问题,自己调整字段长度,或者过滤

一些特殊字符,可能也会报字段数量长度不对之类的,但其实如果不对早就报了,大概率是默认 csv 导入,特殊字符导致的问题

可以调整一下写入方式,改为json,sink---doris 加个参数

复制代码
'sink.properties.format' = 'json',
'sink.properties.read_json_by_line' = 'true'

INTERNAL_ERROR Cancelled END_OF_FILE Encountered unqualified data, stop processing, see more in null

这种也是运行一会报错,报错中没有链接,光说 see more in null 的

一般都是主键、分区键有问题

  • 主键字段中存在 null 值
  • 分区字段超过分区键的范围,比如分区从 2024 年开始,但数据中有 2020 年的数据
相关推荐
学习3人组38 分钟前
OEE(设备综合效率)的标准定义、公式、损失分类、以及在工位触屏/MES里怎么采集和统计
大数据·网络·数据库
财迅通Ai40 分钟前
百通能源:2026年一季度营收稳步增长,资产结构持续优化
大数据·人工智能·能源·百通能源
千匠网络1 小时前
数智全链赋能,千匠网络钢铁能源供应链平台解决方案
大数据·人工智能
WL_Aurora1 小时前
MapReduce经典例题【第一期】
大数据·mapreduce
Datakeji2 小时前
维恩波特Vairnport商业逻辑
大数据·人工智能·区块链
尚医云·云HIS2 小时前
从“21粒”误开,看AI如何补位处方安全
大数据·人工智能·健康医疗
摇滚侠2 小时前
黑马 Elasticsearch 全套教程,黑马旅游网案例
大数据·elasticsearch·jenkins
m0_380167143 小时前
清算热力图怎么看?如何用来判断行情走向
大数据·人工智能·区块链
消失的旧时光-19433 小时前
线程池解决了什么?为什么还不够?(从线程到协程 · 第2篇)
java·大数据·数据库
AI周红伟4 小时前
周红伟:AI时代,苹果还行吗?
大数据·人工智能·安全·copilot·openclaw