MAPREDUCE服务 MRS-如何在CarbonData中配置非安全内存?:回答
回答
在Spark配置中,“spark.yarn.executor.memoryOverhead”参数的值应大于CarbonData配置参数“sort.inmemory.size.inmb” 与“Netty offheapmemory required”参数值的总和,或者“carbon.unsafe.working.memory.in.mb” 、 “carbon.sort.inememory.storage.size.in.mb” 与 “Netty offheapmemory required”参数值的总和。否则,如果堆外(off heap)访问超出配置的executor内存,则YARN可能会停止executor。
“Netty offheapmemory required”说明:当“spark.shuffle.io.preferDirectBufs”设为true时,Spark中netty 传输服务从"spark.yarn.executor.memoryOverhead"中拿掉部分堆内存[~ 384 MB or 0.1 x 执行器内存]。
详细信息请参考常见配置Spark Executor堆内存参数。
- 大数据分析是什么_使用MapReduce_创建MRS服务
- MapReduce服务_如何使用MapReduce服务_MRS集群客户端安装与使用
- 什么是Spark_如何使用Spark_Spark的功能是什么
- MRS优势_什么是MRS_MRS功能
- 主机安全配置_Windows主机安全配置_Linux主机安全配置
- 如何在代码托管服务中创建云端仓库?
- 华为云CodeArts API_如何在CodeArts API中设置请求参数?
- MapReduce服务_什么是MapReduce服务_什么是HBase
- MapReduce工作原理_MapReduce是什么意思_MapReduce流程_MRS_华为云
- 华为云CodeArts API_如何在CodeArts API中设置API的设计规范?