MAPREDUCE服务 MRS-配置HDFS文件目录标签策略(NodeLabel):多余块副本删除选择
多余块副本删除选择
如果块副本数超过参数“dfs.replication”值(即用户指定的文件副本数,可以参考修改集群服务配置参数进入HDFS服务全部配置页面,搜索对应参数查看),HDFS会删除多余块副本来保证集群资源利用率。
删除规则如下:
- 优先删除不满足任何表达式的副本。
/test标签表达式为“LA[replica=1],LB[replica=1],LC[replica=1]”;
/test文件副本分布的四个节点(D1~D4)以及对应标签(LA~LD):
D1:LA D2:LB D3:LC D4:LD
则选择删除D4节点上的副本块。
- 如果所有副本都满足表达式,删除多于表达式指定的数量的副本。
/test标签表达式为“LA[replica=1],LB[replica=1],LC[replica=1]”;
/test文件副本分布的四个节点以及对应标签:
D1:LA D2:LA D3:LB D4:LC
则选择删除D1或者D2上的副本块。
- 如果文件所有者或文件所有者的组不能访问某个标签,则优先删除映射到该标签的DataNode中的副本。
- MapReduce服务_什么是HDFS_HDFS特性
- MapReduce服务_什么是Hue_如何使用Hue
- MapReduce服务_如何使用MapReduce服务_MRS集群客户端安装与使用
- MRS备份恢复_MapReduce备份_数据备份
- MapReduce服务_什么是Loader_如何使用Loader
- Hudi服务_什么是Hudi_如何使用Hudi
- MapReduce服务_什么是ZooKeeper_如何使用ZooKeeper
- MapReduce服务_什么是Kafka_如何使用Kafka
- MapReduce服务_什么是Yarn_如何使用Yarn
- 什么是Manager_Manager的功能_MRS运维管理