MAPREDUCE服务 MRS-Hive应用开发规则:客户端配置参数需要与服务端保持一致

时间:2024-05-28 14:22:57

客户端配置参数需要与服务端保持一致

当集群的Hive、YARN、HDFS服务端配置参数发生变化时,客户端程序对应的参数会被改变,用户需要重新审视在配置参数变更之前提交到HiveServer的配置参数是否和服务端配置参数一致,如果不一致,需要用户在客户端重新调整并提交到HiveServer。例如下面的示例中,如果修改了集群中的YARN配置参数时,Hive客户端、示例程序都需要审视并修改之前已经提交到HiveServer的配置参数:

初始状态:

集群YARN的参数配置如下:

mapreduce.reduce.java.opts=-Xmx2048M

客户端的参数配置如下:

mapreduce.reduce.java.opts=-Xmx2048M

集群YARN修改后,参数配置如下:

mapreduce.reduce.java.opts=-Xmx1024M

如果此时客户端程序不做调整修改,则还是以客户端参数有效,会导致reducer内存不足而使MR运行失败。

support.huaweicloud.com/devg-rule-mrs/mrs_07_450025.html