MAPREDUCE服务 MRS-缩容MRS集群:缩容校验策略
缩容校验策略
缩容节点选择完成后,为了避免组件退服失败,不同组件提供了不同的退服约束规则,只有满足了所有安装组件的退服约束规则才允许缩容。缩容校验策略如表1所示。
组件名称 |
退服约束规则 |
---|---|
HDFS/DataNode |
规则:缩容后节点数不小于当前HDFS的副本数且HDFS数据总量不超过缩容后HDFS集群总容量的80%,可以执行缩容操作。 原因:确保缩容后剩余空间足够存放现有数据,并预留一部分空间。 说明:
为了保证数据的可靠性,HDFS中每保存一个文件则自动生成1个备份文件,即默认共2个副本。 |
HBase/RegionServer |
规则:除缩容节点外,其他节点RegionServer剩余可用内存的总和,大于所选缩容节点RegionServer当前使用内存的1.2倍。 原因:当一个节点退服时,这个节点上的Region会迁移到其他节点,所以其他节点的可用内存必须足够才能负担起退服节点的Region。 |
Storm/ Supervisor |
规则:缩容后集群slot数足够运行当前已提交的任务。 原因:防止缩容后没有充足的资源运行流处理任务。 |
Flume/FlumeServer |
规则:节点安装了FlumeServer,并且已经配置了Flume任务,则该节点不能删除。 原因:防止误删了已部署的业务程序。 |
ClickHouse/ClickHouseServer |
规则:具体请参缩容ClickHouseServer约束限制章节。 原因:保障退服节点数据迁移到未退服节点。 |
- MapReduce服务_如何使用MapReduce服务_MRS集群客户端安装与使用
- MRS优势_什么是MRS_MRS功能
- MapReduce工作原理_MapReduce是什么意思_MapReduce流程_MRS_华为云
- MapReduce服务_什么是存算分离_如何配置MRS集群存算分离
- 大数据分析是什么_使用MapReduce_创建MRS服务
- MapReduce服务_什么是MapReduce服务_什么是HBase
- GaussDB数据库扩容与缩容_Gaussdb扩容_华为gaussdb_gaussdb在线扩容
- 什么是弹性资源池_数据湖探索DLI弹性资源池
- GaussDB磁盘扩容_协调节点缩容_协调节点扩容_分片数量扩容
- MapReduce服务_什么是Flink_如何使用Flink