-
配置使用分布式缓存执行MapReduce任务
hadoop-x.tar.gz /mapred/framework/ 执行以下命令,根据表1,对“客户端安装路径/Yarn/config/mapred-site.xml”文件中的参数进行设置。 vi 客户端安装路径/Yarn/config/mapred-site.xml 表1 分布式缓存相关参数
来自:帮助中心 -
通过Windows系统提交MapReduce任务
-
hadoop命令行查看任务统计和日志
-
降低MapReduce客户端运行任务失败率
当网络不稳定或者集群IO、CPU负载过高的情况下,通过调整如下参数值,降低客户端应用的失败率,保证应用的正常运行。 配置描述 在客户端的“mapred-site.xml”配置文件中调整如下参数。 “mapred-site.xml”配置文件在客户端安装路径的conf目录下,例如“/opt/client/Yarn/config”。
来自:帮助中心 -
多CPU内核下的MapReduce调优配置
-
多CPU内核下MapReduce调优配置
-
HDFS调用FileInputFormat的getsplit的时候出现数组越界
-
Hadoop Streaming完成大数据处理详解(下)
-
配置MapReduce shuffle address
shuffle服务绑定特定IP时,需要在NodeManager实例所在节点的配置文件“mapred-site.xml”中(例如路径为:${BIGDATA_HOME}/ FusionInsight _HD_xxx/x_xx_NodeManager/etc/mapred-site.xml)设置如下参数。 表1 参数描述
来自:帮助中心 -
基于华为云的Spark集群环境搭建
-
Oozie应用开发步骤
-
Oozie应用开发步骤
-
Hive调优:基于MR的map和reduce数量控制与调优
-
使用Hue提交Oozie Streaming作业
-
使用Hue提交Oozie Streaming作业
-
降低MapReduce客户端运行任务失败率
-
开启Native Task特性后,Reduce任务在部分操作系统运行失败
-
使用Hue提交Oozie Mapreduce作业
-
使用Hue提交Oozie Mapreduce作业
-
Hive快速入门系列(18) | Hive性能调优 [五] 严格模式
-
MapReduce大任务的AM调优