MAPREDUCE服务 MRS-Hudi性能调优:推荐资源配置
推荐资源配置
- mor表:
由于其本质上是写增量文件,调优可以直接根据Hudi的数据大小(dataSize)进行调整。
dataSize如果只有几个G,推荐跑单节点运行spark,或者yarn模式但是只分配一个container。
入湖程序的并行度p设置:建议p = (dataSize)/128M,程序分配core的数量保持和p一致即可。内存设置建议内存大小和core的比例大于1.5:1 即一个core配1.5G内存, 堆外内存设置建议内存大小和core的比例大于0.5:1。
- cow表:
cow表的原理是重写原始数据,因此这种表的调优,要兼顾dataSize和最后重写的文件数量。总体来说core数量越大越好(和最后重写多少个文件数直接相关),并行度p和内存大小和mor设置类似。
- 文档数据库服务DDS性能调优_MongoDB性能调优_华为云
- MapReduce服务_什么是MapReduce服务_什么是HBase
- X实例推荐
- MapReduce服务_如何使用MapReduce服务_MRS集群客户端安装与使用
- MapReduce服务_什么是HetuEngine_如何使用HetuEngine
- MapReduce服务_什么是Hue_如何使用Hue
- MapReduce服务_什么是Kafka_如何使用Kafka
- CDN怎么用_CDN推荐_CDN怎么收费
- MapReduce服务_什么是HDFS_HDFS特性
- GaussDB性能怎么调_GaussDB性能调优_高斯数据库性能怎么调-华为云