Hbase运维手册答题.doc

 HYPERLINK viewspace-1593148/ Hbase运维手册? 1.?region情况 需要检查 1. region的数量（总数和每台regionserver上的region数） 2. region的大小 如果发现异常可以通过手动merge region和手动分配region来调整 从CDH前台和master前台以及regionServer的前台都可以看到region数量，如master前台：? ? ?? 在region server前台可以看到storeFile大小：  2.?缓存命中率 缓存命中率对hbase的读有很大的影响，可以观察这个指标来调整blockcache的大小。 从regionserver web页面可以看到block cache的情况：? ? ??注意： HBase上Regionserver的内存分为两个部分，一部分作为Memstore，主要用来写；另外一部分作为BlockCache，主要用于读。 写请求会先写入Memstore，Regionserver会给每个region提供列族数提供一定数量的Memstore，当Memstore满64MB以后，会启动 flush刷新到磁盘。当Memstore的总大小超过限制时（heapsize * hbase.regionserver.global.memstore.upperLimit * 0.9），会强行启动flush进程，从最大的Memstore开始flush直到低于限制。 读请求先到Memstore中查数据，查不到就到BlockCache中查，再查不到就会到磁盘上读，并把读的结果放入BlockCache。由于BlockCache采用的是LRU策略，因此BlockCache达到上限(heapsize * hfile.block.cache.size * 0.85)后，会启动淘汰机制，淘汰掉最老的一批数据。 一个Regionserver上有一个BlockCache和N个Memstore，它们的大小之和不能大于等于heapsize * 0.8，否则HBase不能正常启动。 默认配置下，BlockCache为0.2，而Memstore为0.4。在注重读响应时间的应用场景下，可以将 BlockCache设置大些，Memstore设置小些，以加大缓存的命中率。 HBase RegionServer包含三个级别的Block优先级队列： Single：如果一个Block第一次被访问，则放在这一优先级队列中； Multi：如果一个Block被多次访问，则从Single队列移到Multi队列中； InMemory：如果一个Block是inMemory的，则放到这个队列中。 以上将Cache分级思想的好处在于： 首先，通过inMemory类型Cache，可以有选择地将in-memory的column families放到RegionServer内存中，例如Meta元数据信息； 通过区分Single和Multi类型Cache，可以防止由于Scan操作带来的Cache频繁颠簸，将最少使用的Block加入到淘汰算法中。 默认配置下，对于整个BlockCache的内存，又按照以下百分比分配给Single、Multi、InMemory使用：0.25、0.50和0.25。 注意，其中InMemory队列用于保存HBase Meta表元数据信息，因此如果将数据量很大的用户表设置为InMemory的话，可能会导致Meta表缓存失效，进而对整个集群的性能产生影响。 3.?读写请求数 通过读写请求数可以大概看出每台regionServer的压力，如果压力分布不均匀，应该检查regionServer上的region以及其它指标 ? ? ? ? ? ? ? 4.?压缩队列 压缩队列存放的是正在压缩的storefile，compact操作对hbase的读写影响较大 通过cdh的hbase图表库可以看到集群总的压缩队列大小：  可以通过CDH的hbase主页查询compact日志： 点击“压缩”进入：  5.?刷新队列 单个region的memstore写满(128M)或regionServer上所有region的memstore大小总合达到门限时会进行flush操作,flush操作会产生新的storeFile 同样可以通过CDH的hbase前台查看flush日志： ? 6.?rpc调用队列 没有及时处理的rpc操作会放入rpc操作队列，从rpc队列可以看出服务器处理请求的情况? ? ?? 7.?文件块保存在本地的百分比 datanode和regionserver一般都部署在同一台机器上，所以region server管理的regio