检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
connection = HConnectionManager.createConnection(conf)来创建连接池,废弃HTablePool。 新的EndPoint接口,参见http://hbase.apache.org/book/cp.html。 org.apache.hadoop.hbase
spark.examples.DstreamKafkaWriter。 建议使用新的API createDirectStream代替旧的API createStream进行应用程序开发。旧的API仍然可以使用,但新的API性能和稳定性更好。 /** * 参数解析: * <groupId>为客户的组编号。
用户”,检查本次业务操作的用户是否在已存在: 是,执行3。 否,执行4。 单击指定用户左侧的,检查该用户所在的用户组和角色分配的权限是否满足本次业务需求。若不满足,则需创建新角色并绑定用户,也可以直接修改用户的用户组或角色权限。 参见创建用户(MRS 3.x及之后版本),创建本次业务所需要的用户,同时关联业务所需要的用户组或者角色信息。
是一个长64位的数字。高32位用来表示当前Leader的周期,低32位用来表示当前请求产生的事务在当前Leader周期内的位置。每产生一个新的事务,zxid的低32位就会自动加1。当zxid达到最大值,即zxid的低32位达到0xffffffff,就会触发集群强制选主,从而短暂影
否,只需要使用“default”在所有时间段生效,任务结束。 单击“配置”,修改“系统资源调整基数”,然后单击“下一步”。 单击“添加”增加新的资源配置组。 图2 增加新的资源配置组 在“第一步:调度时间”,单击“配置”显示时间策略配置页面。 根据业务需要修改以下参数,并单击“确定”保存: “重
S”的中“-XX:MaxDirectMemorySize”值为“1G”。 直接内存配置过小导致报错,而且一旦直接内存溢出,该节点将无法处理新请求,会导致其他节点或者客户端访问超时失败。 解决办法 登录到Manager,进入Kafka配置页面。 选择“全部配置”,搜索并修改KAFK
caching:在扫描数据表时的缓存行数。 如果不设置该参数,则默认值为1000。 为单个Region构建索引是为了修复损坏的索引。 此功能不应用于生成新索引。 创建HBase HIndex 安装HBase客户端,详情参见HBase客户端使用实践。 进入客户端安装路径,例如“/opt/client”
if(args.length >= 2) { //用户更改了默认的keytab文件名,这里需要将新的keytab文件名通过参数传入 conf.put(Config.STORM_CLIENT_KEYTAB_FILE,
用索引过滤大量数据的查询中。 在开启了写时合并选项的Unique表中,数据在导入阶段就会去将被覆盖和被更新的数据进行标记删除,同时将新的数据写入新的文件。在查询时,所有被标记删除的数据都会在文件级别被过滤,读取出的数据就都是最新的数据,消除了读时合并中的数据聚合过程,并且能够在很
调度器会处理此应用的资源申请。其优先级从高到低依次为:本地资源的申请、同机架的申请,任意机器的申请。 图2 资源分配模型 YARN原理 新的Hadoop MapReduce框架被命名为MRv2或YARN。YARN主要包括ResourceManager、ApplicationMa
caching:在扫描数据表时的缓存行数。 如果不设置该参数,则默认值为1000。 为单个Region构建索引是为了修复损坏的索引,此功能不应用于生成新索引。 创建HBase HIndex 安装HBase客户端,详情参见HBase客户端使用实践。 以客户端安装用户,登录安装客户端的节点。 进
chmod 711 data1 选择“集群 > 服务 > Doris > 实例”,勾选该BE实例,选择“更多 > 重启实例”,等待五分钟,查看是否有新的告警上报。 否,处理完毕。 是,执行8。 在BE实例重启期间,运行在对应BE节点上的任务会失败,未进行重启的BE节点上的任务不受影响。 收集故障信息
在“现有集群”列表中,单击已创建的集群名称。 记录集群的“可用分区”、“虚拟私有云”,以及Master节点的“默认安全组”。 在弹性云服务管理控制台,创建一个新的弹性云服务器。 弹性云服务器的“可用分区”、“虚拟私有云”、“安全组”,需要和待访问集群的配置相同。 选择一个Windows系统的公共镜像。
产生告警的集群或系统名称。 服务名 产生告警的服务名称。 角色名 产生告警的角色名称。 主机名 产生告警的主机名。 对系统的影响 无法切换到omm用户。 无法创建新的omm进程。 服务或进程故障之后无法重启。 可能原因 用户CGroup任务数使用率过高,超过阈值90%。 处理步骤 检查omm用户同时打开的线程最大数的配置是否合理。
手动清除告警。然后选择“集群 > 服务 > HDFS > 实例”勾选该DataNode,选择“更多 > 重启实例”,等待5分钟,查看是否有新的告警上报。 重启期间服务业务可能受损或中断,建议选择业务低峰期操作。 否,处理完毕。 是,执行8。 收集故障信息 在FusionInsight
up1”。用户可根据业务需要,自定义其他消费者组。每次消费时生效。 执行命令时默认会读取当前消费者组中未被处理的消息。如果在配置文件指定了新的消费者组且命令中增加参数“--from-beginning”,则会读取所有Kafka中未被自动删除的消息。 Kafka角色实例所在节点IP
数据源很有可能成为流式系统的最大瓶颈点。 对Kafka的性能调优,有以下几个点: 使用Kafka-0.8.2以后版本,可以使用异步模式的新Producer接口。 配置多个Broker的目录,设置多个IO线程,配置Topic合理的Partition个数。 详情请参见Kafka开源
管理员已明确业务需求,并已创建了租户。 操作步骤 登录FusionInsight Manager,选择“系统 > 权限 > 用户”。 若在系统中添加新的用户,请单击“添加用户”,打开添加用户的配置页面。 图1 添加用户 若为系统中已有的用户绑定租户权限,请单击该用户所在行的“修改”,打开修改用户的配置页面。
for columns; 配置Hive自动收集统计信息。开启配置后,执行insert overwrite/into命令插入数据时才自动统计新数据的信息。 在Hive客户端执行以下命令临时开启收集: set hive.stats.autogather = true;开启表/分区级别的统计信息自动收集。
当位于同一JVM进程中的客户端对无法访问的NameNode进行连接时,会对系统造成负担。为了避免这种负担,MRS集群搭载了NameNode blacklist功能。 在新的Blacklisting DFSClient failover provider中,故障的NameNode将被记录至一个列表中。DFSCl