如何对 ElasticSearch 集群进行压力测试

用户头像
Bestony
关注
发布于: 2020 年 08 月 08 日
如何对 ElasticSearch 集群进行压力测试

当 ElasticSearch 的业务量足够大,比如每天都会产生数百 GB 数据的时候,你就会自然而然的需要一个性能更强的 ElasticSearch 集群。特别是当你使用的场景是一些典型的大量数据进入的场景,比如网站日志、用户行为记录、大型电商网站的站内搜索时,一个强劲的 ElasticSearch 是必不可少的组件。在这样的场景下,如何找到一组合适的 ElasticSearch 集群?如何评估 ElasticSearch 集群的性能,就成为了一个十分重要的因素。



用什么 ElasticSearch 进行压力测试?



对于 ElasticSearch 性能测试和压力测试方面,其实有很多不同的方案,比如:



  • Rally:Rally 是 Elastic 官方针对于 ElasticSearch 的宏观测试工具。

  • ESPerf:一个基于 Golang 编写的 ElasticSerch 性能测试工具

  • Elasticsearch Stress Test:由著名的 ElasticSearch 服务提供商 Logzio 开发的性能测试工具



除了这些定制化的工具意外以外,ElasticSearch 也可以借由其 Restful API 来使用Load Runner、JMeter等老牌工具进行测试,这些工具零零散散,各有各的用法和用途,不过,对于广大开发者而言,还是官方出的 Rally 更令人满意。



在本篇文章中,将会使用 Rally 来完成 ElasticSearch 集群的压力测试



Rally 作为官方出品的工具,来自官方的信任加成让他成为各家进行压力测试的首选工具。其次, Rally 官方给出了多种默认的数据集(Tracks)。如果你的使用场景覆盖在这些数据集(比如HTTP 访问事件数据、地理名称数据、地理坐标点数据、HTTP 请求日志、问答场景、打车记录等场景)中,可以直接使用已有的数据集,来完成测试,而无需制造测试数据。





即使你的场景比较特殊,无法被官方的数据集所覆盖,也依然可以根据自己的线上数据,来创建数据集,确保测试效果的准确。





如何使用 Rally 进行测试?



在了解了 Rally 后,来具体看一看 Rally 的使用。



测试前的准备



关于 Rally 的基本安装,这里就不再介绍,总的来说十分简单,在配置好了 JDK 和 Python 环境以后,只需要执行pip install rally 就可以完成安装。如果你的环境复杂,希望以一个更简单的方式来运行,你也可以选择使用 Docker 来运行 Rally ,进行测试。关于更多的安装方式,你可以参考 Rally 的安装文档.



在安装完成了 Rally 后,就可以开始进行 ElasticSearch 的测试。



在测试前,你需要先了解一些基本概念



  • race:在 Rally 中,每一次测试都可以称之为 race

  • car: 在 Rally 中,每一个参与测试的集群,都可以称之为 car ,不同的集群就是不同的 car,如果你是在选配置,则可以通过切换 car 来设置不同配置的测试。

  • track: 在 Rally 中,每一次测试用的数据,都可以称之为 Track,不同的 Track 意味着不同的测试数据。

  • challange: 在 Rally 中,每一个 challange 意味着一个不同的测试场景,具体的场景则代表着 ElasticSearch 所执行的操作。



在了解测试的基本概念后,就可以开始进行压力测试。



进行压力测试



测试设备



由于本次测试实际上是一次选型的过程,在测试之前,我曾阅读了 Elastic 官方的权威指南中的硬件部分.在其文档中提供了对于运转 ElasticSearch 集群设备的推荐配置。



  1. 64 GB 内存的机器是非常理想的, 但是32 GB 和16 GB 机器也是很常见的。少于8 GB 会适得其反(你最终需要很多很多的小机器),大于64 GB 的机器也会有问题, 我们将在 堆内存:大小和交换 中讨论。

  2. 如果你要在更快的 CPUs 和更多的核心之间选择,选择更多的核心更好。多个内核提供的额外并发远胜过稍微快一点点的时钟频率。

  3. 如果你负担得起 SSD,它将远远超出任何旋转介质(注:机械硬盘,磁带等)。 基于 SSD 的节点,查询和索引性能都有提升。如果你负担得起,SSD 是一个好的选择。

  4. 通常,选择中配或者高配机器更好。避免使用低配机器, 因为你不会希望去管理拥有上千个节点的集群,而且在这些低配机器上运行 Elasticsearch 的开销也是显著的。



因此,我选择了原本打算购买的三家厂商(阿里云、腾讯云、UCloud)的设备进行测试,在具体的配置层面,则在各家购买四台 8C64G 100GBSSD磁盘的的云主机来进行测试。





测试环节



1. 构建集群



在进行测试前,需要先对已有的三台设备搭建集群,并配置集群链接,确保集群正常工作。集群搭建的部分,你可以参考官方文档中的Add and remove nodes in your cluster部分。



2. 执行测试命令



在完成了集群的建设后,测试就简单很多,只需要执行命令,便可以对已经建设好的集群进行测试,比如:



esrally --track=pmc --target-hosts=10.5.5.10:9200,10.5.5.11:9200,10.5.5.12:9200 --pipeline=benchmark-only



执行完命令后,接下来就是漫长的等待,根据机器的配置和集群等



3. 获得测试结果



在执行了测试命令后,测试完成后,你就可以获得相应的测试结果。不过,为了方便进行对比和查看,你可以在测试的命令中加入参数,从而实现将测试结果导出为特定的格式。



比如,执行这样的测试命令,就可以获得 CSV 格式的测试数据



esrally --track=pmc --target-hosts=10.5.5.10:9200,10.5.5.11:9200,10.5.5.12:9200 --pipeline=benchmark-only -report-format=csv --report-file=~/benchmarks/result.csv



当你得到了 csv 的结果后,就可以对数据进行分析和对比了。



如何查看 Rally 的测试结果





当我们对 Rally 执行测试以后,我们会拿到大量的数据,而具体这些数据应该如何来看呢?接下来我们一一来看。



如何理解 Rally 的数据



Rally 导出的数据共有 4 列,分别是 Metric(维度)、*Task(任务)*、Unit(单位)和*‌Result(结果)*。



我们可以将数据按照 Task 进行切分,你可以得到若干组结果,如:



  • 没有 Task 的宏观数据

  • index-append 组数据

  • index-stats 组数据

  • node-stats 组数据

  • phrase 组数据

  • ...



不同的组意味着 ElasticSearch 在不同场景下的应用,因此,你在对比时,需要按照分组来看数据。而分组内部的数据,就简单了许多,除了宏观数据以外,其他各组的数据基本上都是一个模式的,具体可以分为以下 14 组数据。



  • Min/Median/Max:本组测试的最小吞吐率、中位吞吐率和最大吞吐率,单位为 ops/s ,越大越好。

  • 50th/90th/99th/100th percentile latency: 提交请求和收到完整回复之间的时间段,越小越好

  • 50th/90th/99th/99.9th/100th percentile service time:请求处理开始和接收完整响应之间的时间段,越小越好

  • error rate:错误率,错误响应相对于响应总数的比例。任何被 Elasticsearch Python 客户端抛出的异常都被认为是错误响应(例如,HTTP 响应码 4xx、5xx或者网络错误,如网络不可达)。



当你能够理解数据的划分方式后,对于 Rally 返回的众多数据就比较好理解了。接下来,我们以实际例子来看 Rally 返回的数据。



如何理解 Rally 返回的宏观测试数据



这里以我测试的数据为例。





根据每组数据对应的不同操作,我们可以将其数据分为若干组,这里我将数据按照颜色进行了一个基础的划分,从上到下依次为:



  • 索引时间

  • 索引节流时间

  • 合并时间

  • 合并节流时间

  • 刷新时间

  • 重刷时间



首先,先看第一组的索引时间,索引时间共有四个指标:



  • Cumulative indexing time of primary shards: 主分片累计索引时间

  • Cumulative indexing time across primary shards:跨分片累计索引时间

  • Cumulative indexing throttle time of primary shards:主分片累计节流索引时间

  • Cumulative indexing throttle time across primary shards:跨分片累计节流索引时间



这四个指标说明了 ElasticSearch 在进行数据处理所需要的索引时间,因此,时间越短越好。







在本组测试结果中,腾讯云的计算时间耗费最长,阿里云可以在腾讯的基础之上,有约 16 % 的性能提升,UCloud 则在腾讯云的基础之上提升了 24%



在测试过程中,会因为机器的性能等因素,而造成实际测试时间的不同。在这三组中,阿里云是最神奇的一个,因为它测试时间达到了6个小时。而 UCloud 和腾讯云则分别在 3 小时和 4 小时左右,实际的测试体验还是有很大的差距。如果你要复现相应的实验,建议你在早上进行,这样出测试结果的时候刚好还在白天。



接下来看合并时间的数据



  • Cumulative merge throttle time of primary shards:主分片累计节流合并时间

  • Min cumulative merge throttle time across primary shards:主分片累计节流合并时间

  • Median cumulative merge throttle time across primary shards:主分片累计节流中位合并时间

  • Max cumulative merge throttle time across primary shards:主分片累计节流最大合并时间



合并时间组结果类似于索引时间组,不同的是测量的数据 Merge 时间。和 index 类似,时间越短越好,合并数量越大越好。







在本组测试结果中,腾讯云的计算时间耗费最长,阿里云可以在腾讯的基础之上,有约 9 % 的性能提升,UCloud 则在腾讯云的基础之上提升了 30%~40%



其他几组类似的数据,这里就不再一一介绍,大家可以自行下载文章最后的数据进行分析,评估,得出结论。



如何理解 Rally 返回的项目测试数据



除了宏观数据以外,Rally 返回数据中极大比例的是各种不同场景下的数据,这里,我们也选两组数据进行对比分析,看一看这些数据应该如何理解。



首先,我们看一下 node-stats 组的结果。



node-stats 组的结果是针对 node-stats 命令的数据分析结果。这里的吞吐量越大越好,时延则越小越好。





在本组测试结果中,阿里云、腾讯云、UCloud 在性能方面没有较大的差距。



类似的,我们可以对比 countryagguncached 组的结果





在本组测试结果中,阿里云、腾讯云、UCloud 在吞吐量方面没有较大的差距,时延方面 UCloud 会更好一点。



关于更多的数据,我们不在这里一一介绍,我将测试数据已经附在了文章的最后,你可以通过下载数据,自行分析,来练习 Rally 的使用和数据分析。



一些使用 Rally 时的小技巧



如何解决 Rally 网络不好的问题?



Rally 在执行时,需要下载相应的数据进行真实场景下的模拟,在这种情况下,Rally 需要从 AWS S3 上下载一些数据包,用于本地的测试。但国内的设备对于 S3 的访问不算太友好,经常会在下载的时候出现问题,因此,你可以选择前置下载数据,这样在测试的时候可以直接使用本地的数据来完成测试,减少失败的可能。



想要前置下载数据也很简单只需要执行如下命令:



curl -O https://raw.githubusercontent.com/elastic/rally-tracks/master/download.sh
chmod u+x download.sh
./download.sh geonames
cd ~
tar -xf rally-track-data-geonames.tar



在执行 download.sh 时加入 track 名,就可以下载对应 track 数据的压缩包到本地,你可以根据自己的实际使用情况,来决定使用什么样的 track 模拟真实场景。



总结



在业务真正使用 ElasticSearch 之前,你可以像我一样,借助于 Rally 对备选的 ElasticSearch 集群进行压力测试,并通过对压测结果进行分析,从而获得明确的选型建议。比如,在我这次测试中,显然 UCloud 优于其他两家,是一个性价比 更高的选择。当然,这是一个实验环境下的压测,还是需要根据具体的业务场景做测试来进行选型,更为科学,不过希望压测方法能给予大家参考,也欢迎大家在后续实际的测试过程中给予我反馈。



附录



本文涉及到的测试数据均可以在下载地址找到。



发布于: 2020 年 08 月 08 日 阅读数: 1308
用户头像

Bestony

关注

Bestony 2017.10.29 加入

还未添加个人简介

评论 (1 条评论)

发布
用户头像
推荐
2020 年 08 月 10 日 10:26
回复
没有更多了
如何对 ElasticSearch 集群进行压力测试