网易视频云：网易hbase基准性能测试之结果篇.pdfVIP

网易视频云：网易 HBase 基准性能测试之结果篇 　上一篇网易视频云的技术专家给大家分享了网易 HBase 基准 性能测试之准备篇中详细介绍了本次性能测试的基本准备情况，包 括测试集群架构、单台机器软硬件配置、测试工具以及测试方法等，在 此基础上本篇文章主要介绍 HBase 在各种测试场景下的性能指标（主 要包括单次请求平均延迟和系统吞吐量）以及对应的资源利用情况，并 对各种测试结果进行分析。 　　测试结果 　　单条记录插入 　　测试参数 　　总记录数为 10 亿，分为 128 个 region ，均匀分布在 4 台 region server 上；插入操作 行 2 千万次；插入请求分布遵从 zipfian 分布； 　　测试结果 　　 　　资源使用情况 　　 　　上 图为单台 RegionServer 的带宽使用曲线图（资源使用情况中 只列出和本次测试相关的资源曲线图，后面相关资源使用情况类似）， 本次测试线程为 1000 的情况下带宽基本维持在 100M 左右，对于百兆 网卡来说基本上已经打满。 　　结果分析 　　1.吞吐量曲线分析：线程数在 10~500 的情况下，随着线程数的 增加，系统吞吐量会不断升高；之后线程数再增加，系统吞吐量基本上 不再变化。结合图3 带宽资源使用曲线图可以看出，当线程数增加到 一定程度，系统带宽资源基本耗尽，系统吞吐量就不再会增加。可见， HBase 写操作是一个带宽敏感型操作，当带宽资源 bound 后，写入吞 吐量基本就会稳定。 　　2. 写入延迟曲线分析：随着线程数的不断增加，写入延迟也会 不断增大。这是因为写入线程过多，导致 CPU 资源调度频繁，单个线 程分配到的 CPU 资源会不断降低；另一方面由于线程之间可能会存在 互斥操作导致线程阻塞；这些因素都会导致写入延迟不断增大。 　　建议 　　根据曲线显示，500 线程以内的写入延迟并不大于 10ms，而此 时吞吐量基本最大，因此如果是单纯写入的话 500 线程写入会是一个 比较合适的选择。 　　单纯查询 　　测试参数 　　总记录数为 10 亿，分为 128 个 region ，均匀分布在 4 台 region server 上；查询操作 行 2 千万次；查询请求分布遵从 zipfian 分布； 　　测试结果 　　 　　资源使用情况 　　 　　 　　 图5 为线程数在 1000 时 IO 利用率曲线图，图中 IO 利用率基 本保持在 100%，说明 IO 资源已经达到使用上限。图6 为线程数在 1000 时系统负载曲线图，图中 load1 曲线表示在最近一分钟内的平均 负载，load5 表示最近五分钟内的平均负载。最近 5 分钟的负责达到 了50 左右，对于 32 核系统来说，表示此时系统负载很高，已经远远超 负荷运行。 　　结果分析 　　 1. 吞吐量曲线分析：线程数在 10~500 的情况下，随着线程数 的增加，系统吞吐量会不断升高；之后线程数再增加，系统吞吐量基本 上不再变化。结合图5、图6 系统资源使用曲线图可以看出，当线程数 增加到一定程度，系统 IO 资源基本达到上限，系统负载也特别高。IO 利用率达到 100%是因为大量的读操作都需要从磁盘查找数据，系统 负载很高是因为HBase 需要对查找的数据进行解压缩操作，解压缩操 作需要耗费大量 CPU 资源。这两个因素结合导致系统吞吐量就不再 随着线程数增肌而增加。可见，HBase 读操作是一个IO/CPU 敏感型操 作，当 IO 或者 CPU 资源 bound 后，读取吞吐量基本就会稳定不变。 　　2. 延迟曲线分析：随着线程数的不断增加，读取延迟也会不断 增大。这是因为读取线程过多，导致 CPU 资源调度频繁，单个线程分 配到的 CPU 资源会不断降低；另一方面由于线程之间可能会存在互斥 操作导致线程阻塞；这些因素都会导致写入延迟不断增大。和写入延 迟相比，读取延迟会更大，是因为读取涉及 IO 操作，IO 本身就是一个 耗时操作，导致延迟更高。 　　建议 　　根据曲线显示，500 线程以内的读取延迟并不大于 20ms，而此 时吞吐量基本最大，因此如果是单纯读取的话 500 线程读取会是一个 比较合适的选择。 　　Range 扫描查