Filebeat收集nginx日志到elasticsearch,最终在kibana做展示(二)

EFK

项目需求是要将 一天或15分钟内 搜索引擎抓取网站次数做个统计,并且 如 200 301 404 状态码 也要区分出来, 访问 404 报错的 url 也要截取出来

前期 收集数据 看这篇文章,点击跳转

收集数据完成之后,使用下面方法做展示

创建一个 仪表盘

复制代码
点击 Dashboards (仪表盘) ,创建一个名为 UA 抓取次数 的仪表盘
进来之后,点击创建可视化

一、先创建 404 报错 及 访问的 url 页面。

在右边点击水平轴,将垂直条形图,改为表。
source.ip 的排名前10的值,选项如下
url 选项如下

在添加一个 url.original 的字段,直接拖拽即可

记录计数选项如下
还需要添加一下筛选条件
复制代码
例如:http.response.status_code:404 AND source.ip:115.144.113.0/24
# http.response.status_code 这个是 状态码字段
# source.ip 这个是客户端 ip字段

然后保存并返回即可。

二、配置百度总抓取次数
继续创建可视化界面
水平轴这里直接选 筛选 ,然后将 source.ip 改为 115.144.113.0/24
保存并返回即可
三、配置百度抓取404次数
继续创建可视化界面
水平轴这里直接选 筛选 ,然后将筛选条件改为
http.response.status_code:404 AND source.ip 115.144.113.0/24
保存并返回即可
四、配置百度抓取 200 次数
继续创建可视化界面
水平轴这里直接选 筛选 ,然后将筛选条件改为
http.response.status_code:200 AND source.ip 115.144.113.0/24
保存并返回即可
五、配置百度抓取 非 200/404 次数
继续创建可视化界面
水平轴这里直接选 筛选 ,然后将筛选条件改为
source.ip:115.144.113.0/24 AND NOT (http.response.status_code:200 OR http.response.status_code:404)
保存并返回即可

展示:

六、统计所有访问 404 次数及url 地址
下面是 上面图片的小节。



七、统计所有 访问 404 次数总数

展示:

相关推荐
Elasticsearch10 小时前
5 分钟内将 56 页扫描文档转化为带引用的答案:面向搜索无法读取的文档的检索增强生成流水线
elasticsearch
core5121 天前
Elasticsearch 车牌号片段搜索:n-gram 倒排索引实战方案
elasticsearch·n-gram·索引·倒排索引·号牌·片段
এ慕ོ冬℘゜1 天前
ES Promise.all/ Promise.race
前端·javascript·elasticsearch
Sayai1 天前
Elasticsearch 日志写入链路调优实战:ingest pipeline 补时间戳、时区偏移修复与按值类型路由(附 translog 实测)
大数据·运维·elasticsearch·搜索引擎·性能优化
总爱写点小BUG1 天前
git-tidy:一个把「提交规范治理」做成闭环的 Git 桌面客户端
大数据·elasticsearch·搜索引擎
Elastic 中国社区官方博客2 天前
我们如何通过 70 多个拉取请求,将 OpenTelemetry Java agent 迁移到 invokedynamic
java·大数据·开发语言·elasticsearch·搜索引擎·全文检索·es
努力努力再努力FFF2 天前
从选题策划到稿件落地,编辑该怎么选 AI 证书?
搜索引擎
BreezeJiang3 天前
写了 Dockerfile 却没生效:ES + Kibana 的 compose 配置里,藏着三个反直觉的点
elasticsearch
Elasticsearch3 天前
Elastic 计划利用 NVIDIA RTX GPU 将 Jina 模型推理速度提升至 8 倍
elasticsearch
Elastic 中国社区官方博客3 天前
告别繁琐控制台:Kabanos 如何将 MongoDB Compass 的易用性带入 Elasticsearch
大数据·数据库·mongodb·elasticsearch·搜索引擎·全文检索