检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
运行Manager应用报错“authorize failed” 问题 运行应用程序时，操作失败，日志显示如图1所示。 图1 操作失败日志 回答 可能的原因为用户名、密码的配置错误。 可排查“UserInfo.properties”文件中“username”和“password”的值是否配置正确。
HDFS文件读写时报错“Failed to place enough replicas” 问题背景与现象 当用户在HDFS上执行写操作时，出现“Failed to place enough replicas:expected…”信息。 原因分析 DataNode的数据接收器不可用。
beeline客户端报错“Failed to execute session hooks: over max connections” 问题背景与现象 HiveServer连接的最大连接数默认为200，当超过200时，beeline会报Failed to execute session
main] o.a.thrift.transport.TSaslTransport : SASL negotiation failure javax.security.sasl.SaslException: GSS initiate failed at com
启用Yarn CGroups功能限制Container CPU使用率 配置场景 CGroups是一个Linux内核特性。它可以将任务集及其子集聚合或分离成具备特定行为的分层组。在YARN中，CGroups特性对容器（container）使用的资源（例如CPU使用率）进行限制。本特性大大降低了限制容器CPU使用的难度。
Spark Core样例程序 Spark Core样例程序开发思路 Spark Core样例程序（Java） Spark Core样例程序（Scala） Spark Core样例程序（Python） 父主题： 开发Spark应用
Spark Core样例程序 Spark Core样例程序开发思路 Spark Core样例程序（Java） Spark Core样例程序（Scala） Spark Core样例程序（Python） 父主题： 开发Spark应用
使用External Shuffle Service提升Spark Core性能 操作场景 Spark系统在运行含shuffle过程的应用时，Executor进程除了运行task，还要负责写shuffle数据以及给其他Executor提供shuffle数据。当Executor进程任务过重，导致触发GC（Garbage
Spark Core性能调优 Spark Core数据序列化 Spark Core内存调优 Spark Core内存调优 配置Spark Core广播变量 配置Spark Executor堆内存参数 使用External Shuffle Service提升Spark Core性能 配置Yarn模式下Spark动态资源调度
启用Yarn CGroups功能限制Container CPU使用率 配置场景 CGroups是一个Linux内核特性。它可以将任务集及其子集聚合或分离成具备特定行为的分层组。在Yarn中，CGroups特性对容器（Container）使用的资源（例如CPU使用率）进行限制。本特性大大降低了限制容器CPU使用的难度。
样例代码获取方式请参考获取MRS应用开发样例工程。 代码样例： def contains(str, substr): if substr in str: return True return False if __name__ == "__main__": if len(sys.argv)
} }); //汇总每个女性上网总时间 JavaPairRDD<String, Integer> females = female.mapToPair(new PairFunction<Tuple3<String, String, Integer>
业？ 问： IAM子账号添加了MRS ReadOnlyAccess、MRS FullAccess权限，无法在控制台提交作业，怎么办？ 答： 用户子账号同时添加了MRS ReadOnlyAccess、MRS FullAccess权限，由于权限优先级的问题导致了当前在控制台界面无法添加作业。
例如：sh mergetool.sh merge default.table1 128 false 提示如下，则操作成功： SUCCESS: Merge succeeded 请确保当前用户对合并的表具有owner权限。 合并前请确保HDFS上有足够的存储空间，至少需要被合并表大小的一倍以上。
任务完成后Container挂载的文件目录未清除 问题 使用了CGroups功能的场景下，任务完成后Container挂载的文件目录未清除。 回答 即使任务失败，Container挂载的目录也应该被清除。 上述问题是由于删除动作超时导致的。完成某些任务所使用的时间已远超过删除时间。
问： Spark Job对应的运行日志保存在哪里？ 答： Spark Job没有完成的任务日志保存在Core节点的“/srv/BigData/hadoop/data1/nm/containerlogs/”目录内。 Spark Job完成的任务日志保存在HDFS的“/tmp/logs/用户名/logs”目录内。
变成普通的操作，减少了shuffle操作。 操作步骤 在开发应用程序时，添加如下代码，将“testArr”数据广播到各个节点。 def main(args: Array[String]) { ... val testArr: Array[Long] = new Array[Long](200)
task.maxFailures配置）才会导致job失败，所以正常情况下基本不会因为task被分配到即将要移除的executor导致job失败，并且可以通过调大spark.task.maxFailures来减小问题发生的概率。 父主题： Spark Core调优
任务完成后Container挂载的文件目录未清除 问题 使用了CGroups功能的场景下，任务完成后Container挂载的文件目录未清除。 回答 即使任务失败，Container挂载的目录也应该被清除。 上述问题是由于删除动作超时导致的。完成某些任务所使用的时间已远超过删除时间。
ance/access_http.log”里面请求是否转发到Master节点上新添加的JobServer的IP。 分批次停止Core节点上的JobServer实例。 在“实例”页面勾选Core节点所在的JobServer实例，选择“更多 > 停止实例”，停止Core节点上的JobServer实例。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
