华为云首页用户手册

MapReduce服务 MRS-Spark Core内存调优:操作步骤

MapReduce服务 MRS-Spark Core内存调优:操作步骤

时间：2025-01-26 10:38:57

MapReduce服务 MRS

操作步骤

并行度可以通过如下三种方式来设置，用户可以根据实际的内存、CPU、数据以及应用程序逻辑的情况调整并行度参数。

在会产生shuffle的操作函数内设置并行度参数，优先级最高。
```
testRDD.groupByKey(24)
```
在代码中配置“spark.default.parallelism”设置并行度，优先级次之。
```
val conf = new SparkConf()conf.set("spark.default.parallelism", 24)
```
在“$SPARK_HOME/conf/spark-defaults.conf”文件中配置“spark.default.parallelism”的值，优先级最低。
```
spark.default.parallelism    24
```

上一篇：MapReduce服务 MRS-经验总结:使用coalesce调整分片的数量

下一篇：MapReduce服务 MRS-Spark Core内存调优:操作步骤

新客秒杀 2核2G 3M L实例

68元/年

普惠上云领千元上云礼券

立即前往

企业专享 X实例 4核8G 5M

888元/年

热门域名 1元随心购

1元/年起

MapReduce服务 MRS-Spark Core内存调优:操作步骤

意见反馈

0/200

提交成功！非常感谢您的反馈，我们会继续努力做到更好反馈提交失败！请稍后重试！

推荐文章

解决方案
相关专题