云计算 云日志服务LTS及其基本使用
- 文章信息 - Author: 李俊才(jcLee95)
Visit me at CSDN: https://jclee95.blog.csdn.net
My WebSite :http://thispage.tech/
Email: 291148484@163.com.
Shenzhen China
Address of this article: https://blog.csdn.net/qq_28550263/article/details/140479964
HuaWei: https://bbs.huaweicloud.com/blogs/431260
【介绍】:本文详细介绍了华为云日志服务(LTS)的基本概念和使用方法,包括创建日志组和日志流、安装ICAgent、配置日志采集规则、查看和分析采集到的实时日志等,为读者提供了一个完整的LTS入门指南,帮助读者快速上手使用LTS进行基本日志管理。
目 录
- [1. 概述](#1. 概述)
-
- [1.1 华为云DRS简介](#1.1 华为云DRS简介)
- [1.2 实验目的](#1.2 实验目的)
- [1.3 关键概念](#1.3 关键概念)
- [2. 准备工作](#2. 准备工作)
-
- [2.1 创建AK/SK](#2.1 创建AK/SK)
- [2.2 创建一个ECS服务器](#2.2 创建一个ECS服务器)
- [3. ECS接入LTS](#3. ECS接入LTS)
-
- [3.1 创建日志组、日志流](#3.1 创建日志组、日志流)
- [3.2 日志采集工具ICAgent安装](#3.2 日志采集工具ICAgent安装)
- [3.3 接入日志](#3.3 接入日志)
- [4. 总结](#4. 总结)
[1. 概述](#1. 概述)
[1.1 华为云DRS简介](#1.1 华为云DRS简介)
华为云日志服务(Log Tank Service ,简称LTS )是一项一站式日志数据解决方案。它支持日志采集、搜索分析、日志存储、日志加工、可视化仪表盘、日志告警等功能。LTS提供稳定可靠的服务,用户无需关注扩缩容等资源问题,同时降低了日志运维门槛,有助于提高问题定位和指标监控的效率。
LTS的主要特点包括:
-
实时日志采集:支持通过ICAgent 、云服务、API 、SDK等多种方式采集日志。
-
高效日志查询:采集的日志数据可在云日志控制台以简单有序的方式展示,方便快速查询。
-
结构化分析:支持对日志进行结构化处理,提取固定格式或相似度高的内容,便于使用SQL语法进行查询分析。
-
可视化报表:提供多样化的可视化展示功能,如表格、折线图、柱状图、饼图等。
-
监控告警:支持创建统计规则,对接告警中心,实现日志的实时监控和告警。
-
长期存储:支持将日志转储到对象存储服务(OBS )、数据接入服务(DIS)等,实现长期保存。
LTS可广泛应用于日志采集分析、性能优化、安全审计、运营分析等多个场景,是企业进行日志管理和分析的有力工具。
[1.2 实验目的](#1.2 实验目的)
本实验旨在通过实际操作,帮助读者快速上手使用华为云日志服务(LTS)。具体目标如下:
-
了解LTS 的基本概念,包括日志组、日志流、ICAgent等。
-
掌握创建日志组和日志流的方法。
-
学习如何在弹性云服务器(ECS )上安装ICAgent。
-
配置日志采集规则,将ECS 的系统日志接入LTS。
-
在LTS控制台查看和分析采集到的实时日志。
通过完成这些步骤,读者将能够建立起对LTS 的基本认识,并具备使用LTS进行日志管理的基本技能。这为后续深入使用LTS进行更复杂的日志分析、监控告警等操作奠定基础。
本实验采用实际操作的方式,让读者亲身体验LTS 的功能和使用流程,从而加深对LTS 的理解和掌握。实验中使用的是华为云平台,读者需要准备一个华为云账号,并创建一台ECS 实例作为日志源。通过这种实践性的学习,读者可以更好地理解LTS在实际应用中的价值和作用。
[1.3 关键概念](#1.3 关键概念)
在使用华为云日志服务(LTS)之前,了解以下关键概念及其关系非常重要:
-
日志组(Log Group)
- 日志组是LTS中日志管理的基本单位。
- 它用于对日志进行分类管理,通常可以按照业务类型或应用系统来划分。
- 一个日志组可以包含多个日志流。
-
日志流(Log Stream)
- 日志流是日志数据的载体,用于存储同一类型的日志数据。
- 每个日志流都从属于一个特定的日志组。
- 日志流可以对应到具体的日志文件或日志类型,如应用程序日志、系统日志等。
-
ICAgent
- ICAgent 是LTS提供的日志采集代理程序。
- 它需要安装在需要采集日志的服务器(如ECS)上。
- ICAgent负责从服务器上收集日志数据,并将其上传到LTS服务。
-
日志主题(Log Topic)
- 日志主题是对日志数据进行分类的一种方式。
- 它可以用于将同一日志流中的日志按照不同的主题进行归类。
-
结构化配置
- 结构化配置用于定义如何解析原始日志数据。
- 通过结构化配置,可以将非结构化的日志转换为结构化数据,便于后续的查询和分析。
-
索引配置
- 索引配置定义了如何对日志数据建立索引。
- 合理的索引配置可以提高日志查询的效率。
其中
- 一个LTS账户可以创建多个日志组;
- 每个日志组可以包含多个日志流;
- ICAgent安装在需要采集日志的服务器上,负责将日志数据采集到指定的日志流中;
- 日志流中的数据可以通过结构化配置进行解析,并通过索引配置建立索引;
- 日志主题则可以用于对同一日志流中的日志进行进一步分类。
[2. 准备工作](#2. 准备工作)
[2.1 创建AK/SK](#2.1 创建AK/SK)
进入华为云·我的凭证页面:https://console.huaweicloud.com/iam/?region=cn-north-4#/mine/accessKey。你想看到如下页面:
点击左上角的"新增访问密钥",在模态框弹窗中输入此密钥的描述信息,然后点击确定:
创建完成后,将弹出"创建成功"弹窗:
你可以直接点击"立即下载",这将会下载一个"credentials.csv"文件,你可以使用文本编辑器、Excel等软件打开查看它。
打开后你将看到"User Name"(你的用户名)、"Access Key Id"(AK,访问键ID)、"Secret Access Key"(加密访问密钥)三个字段。你需要妥善保管好他们一面泄露,这可以用于登陆或访问你的华为云的部分资源和相关软件,比如华为云的OBS Browser+ 等。
[2.2 创建一个ECS服务器](#2.2 创建一个ECS服务器)
接下来,我们创建一个ECS服务器用于演示收集其日志。进入华为云·ECS控制台:https://console.huaweicloud.com/ecm/?agencyId=0849469bf980f49c1f6ac0061a1e62ae®ion=cn-north-4&locale=zh-cn#/ecs/manager/vmList。点击左上角的"购买弹性云服务器":
为了实验成本最低,选择一台最低配置的ECS实例:
选择一个你熟悉的镜像,然后点击右下角的"下一步:配置网络":
选择一个VPC,然后考虑是否需要包月或按照流量计费宽带,配置后进入下一步:
配置ECS实例名称以及登录密码等信息,然后确认配置:
最后确认配置并提交:
然后返回ECS列表即可:
在列表中可以看到我们刚刚所购买的ECS实例:
[3. ECS接入LTS](#3. ECS接入LTS)
[3.1 创建日志组、日志流](#3.1 创建日志组、日志流)
登录华为云·云日志服务LTS控制台页面:https://console.huaweicloud.com/lts/?agencyId=0849469bf980f49c1f6ac0061a1e62ae®ion=cn-north-4&locale=zh-cn#/cts/manager/groups。在"日志管理"子标签页中向下滚动:
直到你看到"日志组列表":
点击"创建日志组"按钮,输入日志组的相关信息后,点击确认:
创建完成后,可以在日志组列表中看到刚刚新建的日志组:
旧版的日志组列表中需要点击去对应的日志组才能为该日志组新建日志流。不过如今的版本可以直接在"日志组列表"中对应的日志组下点击"创建日志流"。果断点击"创建日志流":
在此右侧面板中,输入相关信息无误后点击确定,可以看到该日志组的展开信息下多了一条刚刚新建的日志流信息:
完成这一步后,就可以取安装ICAgent了。
[3.2 日志采集工具ICAgent安装](#3.2 日志采集工具ICAgent安装)
在前文我们已经介绍了如何获取AK/SK,(参见[2.1 创建AK/SK](#2.1 创建AK/SK))。现在我们需要将AK和SK替换到下面的模板中的{input_your_ak}
和{input_your_sk}
部分,以得到安装命令:
bash
set +o history;curl https://icagent-cn-north-4.obs.cn-north-4.myhuaweicloud.com/ICAgent_linux/apm_agent_install.sh > apm_agent_install.sh && REGION=cn-north-4 bash apm_agent_install.sh -ak {input_your_ak} -sk {input_your_sk} -region cn-north-4 -projectid 0c34261a0800f2512f53c006f337ef47 -accessip 100.125.12.150 -obsdomain obs.cn-north-4.myhuaweicloud.com -accessdomain lts-access.cn-north-4.myhuaweicloud.com ;set -o history;
然后,回到ECS实例页面,选择刚刚创建好用于演示日志采集的服务器,点击"远程登录":
滚动到最下侧,点击图示的"立即登录":
在新页面的模拟终端中,输入你创建ECS时候设置的root用户密码完成登录:
将准备好的命令粘贴进去,并运行命令,等待安装完成:
可以看到这里的信息提示安装成功了。
[3.3 接入日志](#3.3 接入日志)
为了演示,这里笔者配置一些华为云Linux系统运行一阵子必有的日志路径作为采集对象:
根据你的业务需求取配置"全文索引"、"日志分析"等信息:
完成后提交或者直接跳过并提交,进行ECS日志接入:
现在我们可以查看日志流,直接进入被接入的日志流详情,可以看到,创建之初还没有日志信息:
等待一会,你可可以登录ECS人为搞一些事情,以更快得到更多日志。
在"实时日志"下方,可以看到不断增加的被LTS(其实是ICAgent)监测到的日志内容:
可见,我们的ECS日志成功接入了。
在实际项目中,需要接入的往往是各种应用的运行日志,比如Nginx 的access.log、error.log,JBoss的server.log等等。
[4. 总结](#4. 总结)
至此,我们已经详细介绍了华为云日志服务(LTS )的基本概念和使用方法。我们首先了解了LTS 的功能和特点,然后通过实际操作演示了如何创建日志组和日志流、在ECS 上安装ICAgent 、配置日志采集规则,最后成功将ECS的系统日志接入LTS并在控制台查看实时日志。这一系列步骤涵盖了LTS使用的基本流程,为读者提供了一个完整的LTS入门指南。
通过本文的学习和实践,期望帮助读者掌握使用LTS进行基本日志管理的技能。这为后续深入使用LTS 进行更复杂的日志分析、监控告警等操作奠定了基础。在实际应用中,LTS可以帮助用户更好地监控系统状态、定位故障、分析业务数据,从而提高运维效率和业务洞察能力。希望本文能够帮助读者快速上手LTS ,并在实际工作中充分发挥LTS的价值。