使用 esrally race 测试 Elasticsearch 性能:实践指南

在 Elasticsearch 性能优化和容量规划中,使用 esrally 进行基准测试是官方推荐的方式。通过 esrally race 命令,您可以针对不同的数据集与挑战类型,对 Elasticsearch 集群进行精确的性能评估。本文将简要介绍常用的数据集与挑战类型,并详细解析命令参数,然后展示测试结果分析和最终总结。


一、不同数据集与挑战类型简介

数据集(Tracks):

  1. geonames
    • 数据特性:地理位置相关信息(城市名、坐标、国家代码等),字段较为复杂。
    • 场景适用:地理查询、基于位置的检索和分析。
  2. http_logs
    • 数据特性:仿真 HTTP 访问日志的半结构化数据,字段较少、文本为主。
    • 场景适用:日志分析、全文搜索、可视化检索。

挑战类型(Challenges):

  1. append-no-conflicts-index-only
    • 特点:仅对集群进行数据写入(索引)操作,无查询。
    • 场景:高写入吞吐场景,如日志持续入库。
  2. append-no-conflicts
    • 特点:同时进行数据写入和查询操作。
    • 场景:读写混合场景,如搜索引擎、实时分析系统。

通过结合不同的数据集与挑战类型,您可以模拟多种现实场景。例如,使用 geonames + append-no-conflicts 来测试地理数据的读写混合性能,或使用 http_logs + append-no-conflicts-index-only 来评估日志高写入场景的吞吐量。


二、测试命令与参数解析

以下为一条典型的 esrally race 命令示例。请根据实际环境替换 <ES_CLUSTER_IP>, <USERNAME>, <PASSWORD> 与所需的数据集、挑战类型参数。

esrally race --pipeline=benchmark-only \
             --target-hosts=<ES_CLUSTER_IP>:9200 \
             --track-path=~/.rally/benchmarks/tracks/default/http_logs \
             --client-options="basic_auth_user:<USERNAME>,basic_auth_password:<PASSWORD>" \
             --challenge=append-no-conflicts \
             --report-file=~/result.csv \
             --report-format=csv

参数解析:

  1. --pipeline=benchmark-only

    使用已存在的 Elasticsearch 集群进行测试,不启动新的测试集群。

  2. --target-hosts=<ES_CLUSTER_IP>:9200

    指定目标集群的地址与端口。可使用内网 IP 或公网 IP,需根据实际情况替换。

  3. --track-path=~/.rally/benchmarks/tracks/default/<DATASET>

    指定数据集(如 geonameshttp_logs)的轨迹路径。

  4. --client-options="basic_auth_user:<USERNAME>,basic_auth_password:<PASSWORD>"

    配置客户端认证信息。如果 Elasticsearch 开启了安全认证,请替换为真实用户名与密码;未开启则可忽略此参数。

  5. --challenge=<CHALLENGE_TYPE>

    选择测试挑战类型,如 append-no-conflicts-index-onlyappend-no-conflicts

  6. --report-file=~/result.csv--report-format=csv

    将测试结果保存为 CSV 文件,便于后续数据分析、比对和存档。


三、测试结果分析

执行上述命令后,esrally 会产生一份 CSV 格式的报告文件(如 http_logs_result.csv)。报告中常见的指标包括:

  • 索引吞吐量 (Indexing Throughput):每秒成功写入的文档数。
  • 查询吞吐量 (Query Throughput) :每秒完成的查询请求数(仅在 append-no-conflicts 场景下有意义)。
  • 延迟 (Latency):请求操作(索引或查询)从发出到响应的时间分布(如 50th 百分位、90th 百分位)。
  • 错误率 (Error Rate):测试过程中操作失败的比例。

举例分析(示例数据并非真实测试结果):

数据集 挑战类型 索引吞吐量 (ops/s) 查询吞吐量 (ops/s) 延迟50th (ms) 延迟90th (ms) 错误率 (%)
geonames append-no-conflicts-index-only 5,000 - 10 15 0.0
geonames append-no-conflicts 4,000 1,500 12 (索引) 20 (查询) 0.0
http_logs append-no-conflicts-index-only 8,000 - 8 12 0.0
http_logs append-no-conflicts 6,500 2,000 10 (索引) 18 (查询) 0.0

从上表可见:

  • 对于高写入场景(index-only),http_logs 数据集因数据结构简单而获得更高的写入吞吐量。
  • 对于混合场景(append-no-conflicts),http_logs 也表现出较高的查询吞吐量和较低的延迟,适合日志分析类场景。
  • geonames 数据集在复杂查询下的吞吐量与延迟表现稍逊于 http_logs,但更能模拟地理复杂查询的真实情况,对于地理搜索场景更具参考价值。

四、总结

通过合理搭配数据集(如 geonameshttp_logs)和挑战类型(如 append-no-conflictsappend-no-conflicts-index-only),您可以全面评估 Elasticsearch 集群在不同业务场景下的性能表现。生成的测试报告(如 CSV 格式)有助于直观了解吞吐量、延迟和错误率,并为后续集群优化提供指导。

在实际生产中,您可根据业务需求选择最符合场景的数据集与挑战类型,不断迭代测试与优化,最终提升 Elasticsearch 的服务质量与用户体验。


如有进一步问题或建议,欢迎留言讨论!

相关推荐
超级阿飞1 小时前
利用Kubespray安装生产环境的k8s集群-实施篇
elasticsearch·容器·kubernetes
Ase5gqe6 小时前
大数据-259 离线数仓 - Griffin架构 修改配置 pom.xml sparkProperties 编译启动
xml·大数据·架构
史嘉庆6 小时前
Pandas 数据分析(二)【股票数据】
大数据·数据分析·pandas
唯余木叶下弦声7 小时前
PySpark之金融数据分析(Spark RDD、SQL练习题)
大数据·python·sql·数据分析·spark·pyspark
重生之Java再爱我一次8 小时前
Hadoop集群搭建
大数据·hadoop·分布式
豪越大豪10 小时前
2024年智慧消防一体化安全管控年度回顾与2025年预测
大数据·科技·运维开发
互联网资讯10 小时前
详解共享WiFi小程序怎么弄!
大数据·运维·网络·人工智能·小程序·生活
小诺大人11 小时前
Docker 安装 elk(elasticsearch、logstash、kibana)、ES安装ik分词器
elk·elasticsearch·docker
AI2AGI11 小时前
天天AI-20250121:全面解读 AI 实践课程:动手学大模型(含PDF课件)
大数据·人工智能·百度·ai·文心一言
贾贾202312 小时前
配电自动化中的进线监控技术
大数据·运维·网络·自动化·能源·制造·信息与通信