工作中es客户端常见使用错误

背景:

7月9日因阿里云底层网络故障导致使用阿里云产品(redis,rocketmq等)均受影响,因为业务依赖mq异步将数据写入elasticsearch中,mq发送失败导致es部分数据丢失。丢失的数据需要从mysql中恢复到es中,毕竟es对外查询聚合的较多。

查询数据使用了kibbana工具,因为根据订单id查询es是否存在,订单id过多出现了一个请求体超长的错误。

{"statusCode":413,"error":"Request Entity Too Large","message":"Payload content length greater than maximum allowed: 1048576"}

修复数据用到es的客户端工具,写入es时报错

org.elasticsearch.action.ActionRequestValidationException: Validation Failed: 1: type is missing;2: type is missing;

经查证es版本问题,客户端高版本7.10.0以上才可以

另一个版本相关的问题:

进程启动,es初始化时报错

java.lang.NoSuchFieldError: IGNORE_DEPRECATIONS

最终脚本部署到生产服务器跑数据,checkdata,add/update data

相关推荐
SelectDB34 分钟前
拉卡拉 x Apache Doris:统一金融场景 OLAP 引擎,查询提速 15 倍,资源直降 52%
大数据·数据库·数据分析
合合技术团队1 小时前
实测对比|法国 AI 独角兽公司发布的“最强 OCR”,实测效果如何?
大数据·人工智能·图像识别
lilye663 小时前
程序化广告行业(39/89):广告投放的数据分析与优化秘籍
大数据·人工智能·数据分析
IT成长日记3 小时前
Elasticsearch安全加固指南:启用登录认证与SSL加密
安全·elasticsearch·ssl
Elasticsearch5 小时前
现在支持通过 EDOT Collector 在 Kubernetes 上动态发现工作负载
elasticsearch
中科岩创5 小时前
某地老旧房屋自动化监测项目
大数据·物联网·自动化
viperrrrrrrrrr76 小时前
大数据学习(95)-谓词下推
大数据·sql·学习
汤姆yu6 小时前
基于python大数据的旅游可视化及推荐系统
大数据·旅游·可视化·算法推荐
zhangjin12227 小时前
kettle从入门到精通 第九十四课 ETL之kettle MySQL Bulk Loader大批量高性能数据写入
大数据·数据仓库·mysql·etl·kettle实战·kettlel批量插入·kettle mysql
哈哈真棒7 小时前
hadoop 集群的常用命令
大数据