检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
请求占大多数，因此从NameNode支持读可以降低主NameNode的负载，提高集群处理能力。 本章节适用于MRS 3.x及后续版本。 对系统的影响 配置从NameNode支持读可以降低主NameNode的负载，提高HDFS集群的处理能力，尤其是在大集群下效果明显。 配置从Nam
HDFS用户权限管理 HDFS客户端使用实践 快速使用Hadoop 配置HDFS文件回收站机制 配置HDFS DataNode数据均衡 配置HDFS DiskBalancer磁盘均衡 配置HDFS Mover命令迁移数据 配置HDFS文件目录标签策略（NodeLabel） 配置NameNode内存参数
SQL性能 优化小文件场景下的Spark SQL性能 Spark INSERT SELECT语句调优 动态分区插入场景内存优化 小文件优化 聚合算法优化 Datasource表优化 合并CBO优化 多级嵌套子查询以及混合Join的SQL调优 父主题： 使用Spark2x（MRS 3
请求占大多数，因此从NameNode支持读可以降低主NameNode的负载，提高集群处理能力。 本章节适用于MRS 3.x及后续版本。 对系统的影响 配置从NameNode支持读可以降低主NameNode的负载，提高HDFS集群的处理能力，尤其是在大集群下效果明显。 配置从Nam
differ in block-size” 查询或者删除HDFS文件失败 非HDFS数据残留导致数据分布不均衡 HDFS客户端安装在数据节点导致数据分布不均衡 节点内DataNode磁盘使用率不均衡 执行balance常见问题定位方法 HDFS显示磁盘空间不足，其实还有10%磁盘空间 使用普
解决办法 扩容，在HDFS DataNode磁盘到80%，即需要及时扩容，请参考扩容集群。扩容完成后需进行数据均衡，请参考配置HDFS DataNode数据均衡。 如不能及时扩容，需要删除HDFS中的不需要数据，释放磁盘空间。 父主题： 使用HDFS
SparkSession，详见SparkSession原理。 Structured Streaming，详见Structured Streaming原理。 小文件优化。 聚合算法优化。 Datasource表优化。 合并CBO优化。 父主题： Spark2x
SELECT语句调优 配置多并发客户端连接JDBCServer 配置SparkSQL的分块个数 Spark动态分区插入场景内存优化 小文件优化 聚合算法优化 Datasource表优化 合并CBO优化 多级嵌套子查询以及混合Join的SQL调优 父主题： 使用Spark/Spark2x
定”，等待主NameNode启动完毕。 等待1小时，查看该告警是否自动消除。 是，处理结束。 否，执行20。 查看HDFS负载变化情况，适当降低HDFS负载。 在FusionInsight Manager首页，选择“集群 > 待操作集群的名称 > 服务 > HDFS”，单击图表区
ClickHouse内存越界导致服务重启。 ClickHouse数据磁盘存在误隔离。 ClickHouse服务健康检查机制优化。 ClickHouse多实例负载不均衡。 未开启Kerberos认证的集群，“/tmp/hive-scratch”目录被删后Hive重建的权限不正确，导致Hive一直异常。 重启Zookeeper节点后Hive
配置流式读取Spark Driver执行结果 配置Spark Executor退出时执行自定义代码 配置Spark动态脱敏 distinct聚合优化 配置Spark作业失败时清理残留文件 配置Spark加载第三方jar包，用于注册UDF或者扩展SparkSQL 父主题： 使用Spark/Spark2x
WHERE SEGMENT.STARTTIME BEFORE '2017-07-01 12:07:20'; 其中，STARTTIME是不同负载的加载启动时间。 系统响应 操作成功或失败会在CarbonData日志中被记录。 父主题： DML
WHERE SEGMENT.STARTTIME BEFORE '2017-07-01 12:07:20'; 其中，STARTTIME是不同负载的加载启动时间。 系统响应 操作成功或失败会在CarbonData日志中被记录。 父主题： CarbonData语法参考
图标，选择“分布图”，查看Broker上分区分布是否均衡。 图1 Broker上分区分布不均衡示例 是，执行13。 否，执行11。 单击最右侧分区不均衡的条柱，查看是否包含5中获取的当前告警上报的节点，如果包含则需要执行数据均衡。 等待5分钟，查看告警是否自动清除。 是，操作结束。
图标，选择“分布图”，查看Broker上分区分布是否均衡。 图1 Broker上分区分布不均衡示例 是，执行13。 否，执行11。 单击最右侧分区不均衡的条柱，查看是否包含5中获取的当前告警上报的节点，如果包含则需要执行数据均衡。 等待5分钟，查看告警是否自动清除。 是，操作结束。
图标，选择“分布图”，查看Broker上分区分布是否均衡。 图1 Broker上分区分布不均衡示例 是，执行13。 否，执行11。 单击最右侧分区不均衡的条柱，查看是否包含5中获取的当前告警上报的节点，如果包含则需要执行数据均衡。 等待5分钟，查看告警是否自动清除。 是，操作结束。
”） 内存分配比例：写、读、模型、空闲。 MRS 3.2.0版本：4:3:1:2 MRS 3.3.0及之后版本：3:3:1:1:2 可根据负载适当调整内存。 写入内存越大，对写入吞吐和单个查询越好。 查询内存越大，支持的并发查询越多。 元数据内存越大，就不容易出现“IoTDB system
eerType=observer来增加observer的数目。 通过控制单个任务并发的map数或减少每个节点下运行task的内存，降低节点负载。 升级ZooKeeper数据磁盘，如SSD等。 父主题： HBase故障排除
HDFS执行Balance时被异常停止如何处理 访问HDFS WebUI时，界面提示无法显示此页 HDFS WebUI无法正常刷新损坏数据的信息 NameNode节点长时间满负载导致客户端无响应 为什么主NameNode重启后系统出现双备现象 为什么DataNode无法正常上报数据块 是否可以手动调整DataNode数据存储目录
HDFS执行Balance时被异常停止如何处理 访问HDFS WebUI时，界面提示无法显示此页 HDFS WebUI无法正常刷新损坏数据的信息 NameNode节点长时间满负载导致客户端无响应 为什么主NameNode重启后系统出现双备现象 为什么DataNode无法正常上报数据块 是否可以手动调整DataNode数据存储目录
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
