MAPREDUCE服务 MRS-配置Flink任务进程参数:操作步骤
操作步骤
- 配置JobManager内存。
JobManager负责任务的调度,以及TaskManager、RM之间的消息通信。当任务数变多,任务平行度增大时,JobManager内存都需要相应增大。
您可以根据实际任务数量的多少,为JobManager设置一个合适的内存。
- 在使用yarn-session命令时,添加“-jm MEM”参数设置内存。
- 在使用yarn-cluster命令时,添加“-yjm MEM”参数设置内存。
- 配置TaskManager个数。
每个TaskManager每个核同时能跑一个task,所以增加了TaskManager的个数相当于增大了任务的并发度。在资源充足的情况下,可以相应增加TaskManager的个数,以提高运行效率。
- 配置TaskManager Slot数。
每个TaskManager多个核同时能跑多个task,相当于增大了任务的并发度。但是由于所有核共用TaskManager的内存,所以要在内存和核数之间做好平衡。
- 在使用yarn-session命令时,添加“-s NUM”参数设置SLOT数。
- 在使用yarn-cluster命令时,添加“-ys NUM”参数设置SLOT数。
- 配置TaskManager内存。
TaskManager的内存主要用于任务执行、通信等。当一个任务很大的时候,可能需要较多资源,因而内存也可以做相应的增加。
- 将在使用yarn-session命令时,添加“-tm MEM”参数设置内存。
- 将在使用yarn-cluster命令时,添加“-ytm MEM”参数设置内存。
- MapReduce服务_如何使用MapReduce服务_MRS集群客户端安装与使用
- MapReduce服务_什么是Flink_如何使用Flink
- 大数据分析是什么_使用MapReduce_创建MRS服务
- MapReduce服务_什么是Hue_如何使用Hue
- MapReduce服务_什么是ZooKeeper_如何使用ZooKeeper
- MapReduce服务_什么是Flume_如何使用Flume
- MapReduce服务_什么是Loader_如何使用Loader
- 什么是Spark_如何使用Spark_Spark的功能是什么
- MRS备份恢复_MapReduce备份_数据备份
- MapReduce服务_什么是存算分离_如何配置MRS集群存算分离