工作中es客户端常见使用错误

背景:

7月9日因阿里云底层网络故障导致使用阿里云产品(redis,rocketmq等)均受影响,因为业务依赖mq异步将数据写入elasticsearch中,mq发送失败导致es部分数据丢失。丢失的数据需要从mysql中恢复到es中,毕竟es对外查询聚合的较多。

查询数据使用了kibbana工具,因为根据订单id查询es是否存在,订单id过多出现了一个请求体超长的错误。

{"statusCode":413,"error":"Request Entity Too Large","message":"Payload content length greater than maximum allowed: 1048576"}

修复数据用到es的客户端工具,写入es时报错

org.elasticsearch.action.ActionRequestValidationException: Validation Failed: 1: type is missing;2: type is missing;

经查证es版本问题,客户端高版本7.10.0以上才可以

另一个版本相关的问题:

进程启动,es初始化时报错

java.lang.NoSuchFieldError: IGNORE_DEPRECATIONS

最终脚本部署到生产服务器跑数据,checkdata,add/update data

相关推荐
RunningShare3 小时前
千万级用户电商平台,Flink实时推荐系统如何实现毫秒级延迟?
大数据·flink·推荐系统·ab测试
INFINI Labs4 小时前
如何使用 INFINI Gateway 对比 ES 索引数据
大数据·elasticsearch·gateway·easysearch
他们叫我技术总监10 小时前
外企 BI 工具选型:从合规到落地
大数据·bi
Lansonli11 小时前
大数据Spark(六十七):Transformation转换算子distinct和mapValues
大数据·分布式·spark
RunningShare11 小时前
基于Flink的AB测试系统实现:从理论到生产实践
大数据·flink·ab测试
Elasticsearch13 小时前
Elasticsearch:使用推理端点及语义搜索演示
elasticsearch
Jolie_Liang13 小时前
保险业多模态数据融合与智能化运营架构:技术演进、应用实践与发展趋势
大数据·人工智能·架构
武子康14 小时前
大数据-118 - Flink 批处理 DataSet API 全面解析:应用场景、代码示例与优化机制
大数据·后端·flink
文火冰糖的硅基工坊15 小时前
《投资-78》价值投资者的认知升级与交易规则重构 - 架构
大数据·人工智能·重构
卡拉叽里呱啦17 小时前
Apache Iceberg介绍、原理与性能优化
大数据·数据仓库