MAPREDUCE服务 MRS-Flink性能调优建议:数据量大并发数高且有Shuffle时可调整网络内存

时间:2024-06-17 09:21:36

数据量大并发数高且有Shuffle时可调整网络内存

在并发数高和数据量大时,发生shuffle后会发生大量的网络IO,提升网络缓存内存可以扩大一次性读取的数据量,从而提升IO速度。

【示例】

# 网络占用内存占整个进程内存的比例
taskmanager.memory.network.fraction: 0.6
# 网络缓存内存的最小值
taskmanager.memory.network.min: 1g
# 网络缓存内存的最大值( MRS  3.3.1及之后版本无需修改该值,默认值已为Long#MAX_VALUE)
taskmanager.memory.network.max: 20g
support.huaweicloud.com/devg-rule-mrs/mrs_07_450173.html