HBase常见问题-华为云

MAPREDUCE服务 MRS-HBase全局二级索引API介绍说明

HBase全局二级索引API介绍说明使用全局索引的API都在类“org.apache.hadoop.hbase.hindex.global.GlobalIndexAdmin”中，相关接口介绍如下：操作接口描述添加索引 addIndices() 将索引添加到没有数据的表中。调用此接口会将用户指定的索引添加到表中，但会跳过生成索引数据。该接口的使用场景为用户想要在具有大量预先存在用户数据的表上批量添加索引，然后使用GlobalTableIndexer工具来构建索引数据。 addIndicesWithData() 将索引添加到有数据的表中。此方法将用户指定的索引添加到表中，并会对已经存在的用户数据创建对应的索引数据，也可先调用该方法生成索引再在存入用户数据的同时生成索引数据。当数据表中存在大量数据时，不建议使用此接口。删除索引 dropIndices() 仅删除索引，索引元数据与索引数据均会被删除，在此操作之后，索引不能用于scan/filter操作。索引状态修改 alterGlobalIndicesUnusable() 禁用用户指定的索引，使其不再可用于scan/filter操作。 alterGlobalIndicesActive() 启用用户指定的索引，使其可用于scan/filter操作。 alterGlobalIndicesInactive() 禁用用户指定的索引，且放弃生成索引数据，不再可用于scan/filter操作，通常用于索引修复流程。查看已创建的索引 listIndices() 可用于列出给定表中的所有索引。父主题： HBase常见问题

MAPREDUCE服务 MRS HBase常见问题

MAPREDUCE服务 MRS-如何修复Overlap状态的HBase Region:问题

问题使用hbck工具检查Region状态，如果日志中存在“ERROR: (regions region1 and region2) There is an overlap in the region chain.”或者“ERROR: (region region1) Multiple regions have the same startkey: xxx”信息，表示某些region存在overlap的问题，需要如何解决？

MAPREDUCE服务 MRS HBase常见问题

MAPREDUCE服务 MRS-如何修复长时间处于RIT状态的Region:回答

回答登录HMaster WebUI，在导航栏选择“Procedure & Locks”，查看是否有处于Waiting状态的process id。如果有，需要执行以下命令将procedure lock释放： hbase hbck -j 客户端安装目录/HBase/hbase/tools/hbase-hbck2-*.jar bypass -o pid 查看State是否处于Bypass状态，如果界面上的procedures一直处于RUNNABLE(Bypass)状态，需要进行主备切换。执行assigns命令使region重新上线。 hbase hbck -j 客户端安装目录/HBase/hbase/tools/hbase-hbck2-*.jar assigns -o regionName

MAPREDUCE服务 MRS HBase常见问题

MAPREDUCE服务 MRS-客户端查询HBase出现SocketTimeoutException异常:问题

问题使用HBase客户端操作表数据的时候客户端出现类似如下异常： 2015-12-15 02:41:14,054 | WARN | [task-result-getter-2] | Lost task 2.0 in stage 58.0 (TID 3288, linux-175): org.apache.hadoop.hbase.client.RetriesExhaustedException: Failed after attempts=36, exceptions: Tue Dec 15 02:41:14 CS T 2015, null, java.net.SocketTimeoutException: callTimeout=60000, callDuration=60303: row 'xxxxxx' on table 'xxxxxx' at region=xxxxxx,\x05\x1E\x80\x00\x00\x00\x80\x00\x00\x00\x00\x00\x00\x00\x80\x00\x00\x00\x00\x00\x00\x000\x00\x80\x00\x00\x00\x80\x00\x00\x00\x80\x00\x00, 1449912620868.6a6b7d0c272803d8186930a3bfdb10a9., hostname=xxxxxx,16020,1449941841479, seqNum=5 at org.apache.hadoop.hbase.client.RpcRetryingCallerWithReadReplicas.throwEnrichedException(RpcRetryingCallerWithReadReplicas.java:275) at org.apache.hadoop.hbase.client.ScannerCallableWithReplicas.call(ScannerCallableWithReplicas.java:223) at org.apache.hadoop.hbase.client.ScannerCallableWithReplicas.call(ScannerCallableWithReplicas.java:61) at org.apache.hadoop.hbase.client.RpcRetryingCaller.callWithoutRetries(RpcRetryingCaller.java:200) at org.apache.hadoop.hbase.client.ClientScanner.call(ClientScanner.java:323)

MAPREDUCE服务 MRS HBase常见问题

MAPREDUCE服务 MRS-客户端查询HBase出现SocketTimeoutException异常:回答

回答出现该问题的主要原因为RegionServer分配的内存过小、Region数量过大导致在运行过程中内存不足，服务端对客户端的响应过慢。在RegionServer的配置文件“hbase-site.xml”中需要调整如下对应的内存分配参数。表1 RegionServer内存调整参数参数描述默认值 GC_OPTS 在启动参数中给RegionServer分配的初始内存和最大内存。 -Xms8G -Xmx8G hfile.block.cache.size 分配给HFile/StoreFile所使用的块缓存的最大heap（-Xmx setting）的百分比。当offheap关闭时，默认值为0.25。当offheap开启时，默认值是0.1。

MAPREDUCE服务 MRS HBase常见问题

MAPREDUCE服务 MRS-HMaster等待NameSpace表上线时超时退出:回答

回答在HMaster主备倒换或启动期间，HMaster为先前失败/停用的RegionServer执行WAL splitting及region恢复。在后台运行有多个监控HMaster启动进程的线程： TableNamespaceManager 这是一个帮助类，用于在HMaster主备倒换或启动期间，管理namespace表及监控表region的分配。如果namespace表在规定时间（hbase.master.namespace.init.timeout，默认为3600000ms）内没有上线，那么它就会异常中断HMaster进程。 InitializationMonitor 这是一个主HMaster初始化线程监控类，用于监控主Master的初始化。如果在规定时间（hbase.master.initializationmonitor.timeout，默认为3600000ms）内初始化线程失败，该线程会异常终止HMaster（如果该hbase.master.initializationmonitor.haltontimeout被启动，默认为false）。在HMaster主备倒换或启动期间，如果WAL hlog文件存在，它会初始化WAL splitting任务。如果WAL hlog splitting任务完成，它将初始化表region分配任务。 HMaster通过ZooKeeper协调log splitting任务和有效的RegionServer，并追踪任务的发展。如果主HMaster在log splitting任务期间退出，新的主HMaster会尝试重发没有完成的任务，RegionServer从头启动log splitting任务。 HMaster初始化工作完成情况会由于很多原因被延迟：间歇性的网络故障。磁盘瓶颈。 log split任务工作负荷较大，RegionServer运行缓慢。 RegionServer（region openning）响应缓慢。在以上场景中，为使HMaster更早完成恢复任务，建议增加以下配置参数，否则Master将退出导致整个恢复进程被更大程度地延迟。增加namespace表在线等待超时周期，保证Master有足够的时间协调RegionServer workers split任务，避免一次次重复相同的任务。 “hbase.master.namespace.init.timeout”（默认为3600000ms）通过RegionServer worker增加并行split任务执行数，保证RegionServer worker能并行处理split work（RegionServer需要有更多的核心）。在“客户端安装路径/HBase/hbase/conf/hbase-site.xml”中添加参数： “hbase.regionserver.wal.max.splitters”（默认为2）如果所有的恢复过程都需要时间，增加初始化监控线程超时时间。 “hbase.master.initializationmonitor.timeout”（默认为3600000ms）

MAPREDUCE服务 MRS HBase常见问题

MAPREDUCE服务 MRS-租户使用HBase BulkLoad功能提示权限不足如何处理:回答

回答创建租户的时候需要关联HBase服务和Yarn队列。例如：新建用户user并绑定租户同名的角色。用户user需要使用bulkload功能还需要额外权限。以下以用户user为例：参见“批量导入数据”章节举例，以下是一些差异点。将数据文件目录建在“/tmp”目录下，执行以下命令： hdfs dfs -mkdir /tmp/datadirImport hdfs dfs -put data.txt /tmp/datadirImport 生成HFile的时候使用HDFS的“/tmp”目录： hbase com.huawei.hadoop.hbase.tools.bulkload.ImportData -Dimport.skip.bad.lines=true -Dimport.separator=',' -Dimport.bad.lines.output=/tmp/badline -Dimport.hfile.output=/tmp/hfile configuration.xml ImportTable /tmp/datadirImport 导入HFile的时候使用HDFS的“/tmp”目录： hbase org.apache.hadoop.hbase.mapreduce.LoadIncrementalHFiles /tmp/hfile ImportTable

MAPREDUCE服务 MRS HBase常见问题

MAPREDUCE服务 MRS-访问HBase Phoenix提示权限不足如何处理:回答

回答创建租户的时候需要关联HBase服务和Yarn队列。租户要操作Phoenix还需要额外操作的权限，即Phoenix系统表的RWX权限。例如：创建好的租户为hbase，使用admin用户登录hbase shell，执行scan 'hbase:acl'命令查询租户对应的角色为hbase_1450761169920（格式为：租户名_时间戳）。执行以下命令进行授权（如果还没有生成Phoenix系统表，请用admin用户登录Phoenix客户端后再回到hbase shell里授权）： grant '@hbase_1450761169920','RWX','SYSTEM.CATA LOG ' grant '@hbase_1450761169920','RWX','SYSTEM.FUNCTION' grant '@hbase_1450761169920','RWX','SYSTEM.SEQUENCE' grant '@hbase_1450761169920','RWX','SYSTEM.STATS' 新建用户phoenix并绑定租户hbase，该用户phoenix就可以用来访问Phoenix客户端。

MAPREDUCE服务 MRS HBase常见问题

云服务器内容精选

HBase常见问题

7*24

备案

专业服务

退订

建议反馈

售前咨询热线