工作中es客户端常见使用错误

背景:

7月9日因阿里云底层网络故障导致使用阿里云产品(redis,rocketmq等)均受影响,因为业务依赖mq异步将数据写入elasticsearch中,mq发送失败导致es部分数据丢失。丢失的数据需要从mysql中恢复到es中,毕竟es对外查询聚合的较多。

查询数据使用了kibbana工具,因为根据订单id查询es是否存在,订单id过多出现了一个请求体超长的错误。

{"statusCode":413,"error":"Request Entity Too Large","message":"Payload content length greater than maximum allowed: 1048576"}

修复数据用到es的客户端工具,写入es时报错

org.elasticsearch.action.ActionRequestValidationException: Validation Failed: 1: type is missing;2: type is missing;

经查证es版本问题,客户端高版本7.10.0以上才可以

另一个版本相关的问题:

进程启动,es初始化时报错

java.lang.NoSuchFieldError: IGNORE_DEPRECATIONS

最终脚本部署到生产服务器跑数据,checkdata,add/update data

相关推荐
Dobby_0536 分钟前
【Hadoop】Yarn:Hadoop 生态的资源操作系统
大数据·hadoop·分布式·yarn
数智顾问36 分钟前
基于Hadoop进程的分布式计算任务调度与优化实践——深入理解分布式计算引擎的核心机制
大数据
笨蛋少年派41 分钟前
安装Hadoop中遇到的一些问题和解决
大数据·hadoop·分布式
在未来等你1 小时前
Kafka面试精讲 Day 18:磁盘IO与网络优化
大数据·分布式·面试·kafka·消息队列
大视码垛机1 小时前
速度与安全双突破:大视码垛机重构工业自动化新范式
大数据·数据库·人工智能·机器人·自动化·制造
梓仁沐白2 小时前
hadoop单机伪分布环境配置
大数据·hadoop·分布式
欧阳方超2 小时前
Spark(1):不依赖Hadoop搭建Spark环境
大数据·hadoop·spark
咖啡Beans3 小时前
Docker安装ELK(Elasticsearch + Logstash + Kibana)
后端·elasticsearch·docker
过尽漉雪千山3 小时前
Flink1.17.0集群的搭建
java·大数据·linux·flink·centos