docker 安装 logstash

文章目录

Logstash基本语法组成

什么是Logstash

logstash是一个数据抽取工具,将数据从一个地方转移到另一个地方。如hadoop生态圈的sqoop等。下载地址:https://www.elastic.co/cn/downloads/logstash

logstash之所以功能强大和流行,还与其丰富的过滤器插件是分不开的,过滤器提供的并不单单是过滤的功能,还可以对进入过滤器的原始数据进行复杂的逻辑处理,甚至添加独特的事件到后续流程中。

Logstash配置文件有如下三部分组成,其中input、output部分是必须配置,filter部分是可选配置,而filter就是过滤器插件,可以在这部分实现各种日志过滤功能。

配置文件:

复制代码
input {
    #输入插件
}
filter {
    #过滤匹配插件
}
output {
    #输出插件
}

拉去镜像

因为我这里的es是7.12.1的,所以我logstash我也拉取同样版本,也自己去看版本对照表https://www.elastic.co/cn/support/matrix#matrix_compatibility

bash 复制代码
docker pull logstash:7.12.1

启动镜像

bash 复制代码
docker run \
--name logstash \
--restart=always \
-p 5044:5044 \
-p 9600:9600 \
-v logstash-config:/usr/share/logstash/config \
-v logstash-data:/usr/share/logstash/data \
-v logstash-pipeline:/usr/share/logstash/pipeline \
-d logstash:7.12.1

Logstash输入插件(input)

https://www.elastic.co/guide/en/logstash/current/input-plugins.html

1、标准输入(Stdin)

复制代码
input{
    stdin{
       
    }
}
output {
    stdout{
        codec=>rubydebug    
    }
}

2、读取文件(File)

logstash使用一个名为filewatch的ruby gem库来监听文件变化,并通过一个叫.sincedb的数据库文件来记录被监听的日志文件的读取进度(时间戳),这个sincedb数据文件的默认路径在 <path.data>/plugins/inputs/file下面,文件名类似于.sincedb_123456,而<path.data>表示logstash插件存储目录,默认是LOGSTASH_HOME/data。

复制代码
input {
    file {
        path => ["/var/*/*"]
        start_position => "beginning"
    }
}
output {
    stdout{
        codec=>rubydebug    
    }
}

默认情况下,logstash会从文件的结束位置开始读取数据,也就是说logstash进程会以类似tail -f命令的形式逐行获取数据。

相关推荐
2401_897930062 小时前
使用Docker轻松部署Neo4j图数据库
数据库·docker·neo4j
LeeZhao@3 小时前
【AI推理部署】Docker篇04—Docker自动构建镜像
人工智能·docker·容器
程思扬3 小时前
利用JSONCrack与cpolar提升数据可视化及跨团队协作效率
网络·人工智能·经验分享·docker·信息可视化·容器·架构
落日漫游4 小时前
dockercompose和k8s区别
docker·kubernetes
lllsure6 小时前
【Docker】存储卷
运维·docker·容器
纤瘦的鲸鱼7 小时前
Docker 从入门到实践:容器化技术核心指南
java·docker·容器
邂逅星河浪漫7 小时前
【Docker+Nginx+Ollama】前后端分离式项目部署(传统打包方式)
java·nginx·docker·部署
咖啡Beans13 小时前
Docker安装ELK(Elasticsearch + Logstash + Kibana)
后端·elasticsearch·docker
智能化咨询15 小时前
Docker 容器化部署核心实战——Nginx 服务配置与正反向代理原理解析
docker
嬉牛21 小时前
项目日志输出配置总结(多数据源MyBatis+Logback)
mybatis·logback