filebeat把日志文件上传到Es中配置(ES8版本)

默认的filebeat配置会把所有的索引都放到一个文件中,通过摸索发现可以自定义索引的名字、模板、生命周期

(重点注意)该配置文件只适应于ES版本是8,不适应于其他版本

  • /app/logs/info.log日志文件为JSON格式
  • 自定义索引生命周期名为:pn_springboot,可提前建好
  • 自定义索引名为:idx_springboot
  • 自写义索引模板名为:tn_springboot

ES8版本默认生成的是数据流,不是默认的索引,这么配置生成的数据流名称就是idx_springboot,不是默认的filebeat了,如查索引发现生成长索引名是.ds-idx_springboot-2024.07.21-000001这种格式的,但我们配置视图时,选idx_springboot就行了

yaml 复制代码
filebeat.inputs:
  - type: filestream
    id: my-filestream-id
    enabled: true
    paths:
      - /app/logs/info.log
    parsers:
      - ndjson:
          keys_under_root: true
          overwrite_keys: true

setup.template.name: "tn_springboot"
setup.template.pattern: "idx_springboot"
setup.template.overwrite: true
setup.template.settings:
  index.lifecycle.name: "pn_springboot"
  index.number_of_replicas: 0

output.elasticsearch:
  hosts: ["http://192.168.21.2:8800"]
  username: "elastic"
  password: "elastic"
  index: "idx_springboot"

为保护我的个人隐私,有的生命周期名、索引名、模板名我做过修改,如发现有问题,可评论,或与我联系

相关推荐
鹧鸪云光伏23 分钟前
鹧鸪云软件如何重塑光伏电站管理与降本增效
大数据·运维·光伏·光伏设计
九河云2 小时前
科技守护古树魂:古树制茶行业的数字化转型之路
大数据·人工智能·科技·物联网·数字化转型
武子康2 小时前
大数据-82 Spark 集群架构与部署模式:核心组件、资源管理与调优
大数据·后端·spark
it_czz2 小时前
Flink Redis广播方案
大数据·redis·flink
Apache Flink2 小时前
抖音基于Flink的DataOps能力实践
大数据·flink·dubbo
杏花春雨江南2 小时前
腾讯云 CVM 上的 SpringBoot 应用避免非法访问
spring boot·云计算·腾讯云
歪歪1003 小时前
t-sql和sql的有哪些区别和联系
大数据·数据库·后端·sql·网络协议·mysql·架构
一休哥助手4 小时前
自适应RAG架构:智能检索增强生成的演进与实现
大数据·python·架构
项目題供诗5 小时前
Hadoop(六)
大数据·hadoop·分布式