检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
长时间提交作业，manager executor进程会内存溢出 支持提交作业，manager executor可配置并发度功能 MRS manager管理面看不到Kafka新建的topic 安全集群API方式提交Spark Submit作业操作HBase表，HBase表权限控制未生效 MRS
Ranger支持配置安全区，Ranger管理员可将各组件的资源切分为多个安全区，由对应Ranger管理员用户为区域的指定资源设置安全策略，以便更好的细分资源管理。安全区中定义的策略仅适用于区域中的资源，服务的资源被划分到安全区后，非安全区针对该资源的访问权限策略将不再生效。安全区的管理员只能在其作为管理员的安全区中设置策略。
查看MRS云服务操作日志 MRS管理控制台中记录了用户对MRS集群和作业的操作信息。日志信息常用于集群运行异常时的问题定位，帮助用户快速定位问题原因，以便及时解决问题。 目前MRS记录以下操作类型的日志信息： 集群操作 在管理控制台创建集群、删除集群、扩容集群和缩容集群等。 在管理控制台创建目录、删除目录和删除文件。
Spark客户端和服务端权限参数配置说明 SparkSQL权限管理功能相关的配置如下所示，客户端与服务端的配置相同。要使用表权限功能，需要在服务端和客户端添加如下配置。 “spark-defaults.conf”配置文件 表1 参数说明（1） 参数 描述 默认值 spark.sql
运行Manager应用报错“authorize failed” 问题 运行应用程序时，操作失败，日志显示如图1所示。 图1 操作失败日志 回答 可能的原因为用户名、密码的配置错误。 可排查“UserInfo.properties”文件中“username”和“password”的值是否配置正确。
IndexServer2x进程堆内存统计” ，单击“确定”，根据告警产生时间，查看对应时间段的“IndexServer2x进程使用的堆内存”的值，获取最大值。 图2 IndexServer2x进程堆内存统计 在FusionInsight Manager首页，选择“集群 > 服务 > Spark2x
IndexServer2x进程的非堆内存统计” ，单击“确定”，根据告警产生时间，查看对应时间段的“IndexServer2x进程使用的非堆内存”的值，获取最大值。 图2 IndexServer2x进程的非堆内存统计 在FusionInsight Manager首页，选择“集群 > 服务 > Spark2x
IndexServer2x直接内存” ，单击“确定”，根据告警产生时间，查看对应时间段的“IndexServer2x进程使用的直接内存”的值，获取最大值。 图2 IndexServer2x直接内存 在FusionInsight Manager首页，选择“集群 > 服务 > Spark2x
JobHistory2x进程的堆内存统计”，单击“确定”，根据告警产生时间，查看对应时间段的“JobHistory2x进程使用的堆内存”的值，获取最大值。 图2 jobHistory2x进程的堆内存统计 在FusionInsight Manager首页，选择“集群 > 服务 > Spark2x
> JobHistory2x直接内存”，单击“确定”，根据告警产生时间，查看对应时间段的“JobHistory2x进程使用的直接内存”的值，获取最大值。 图2 JobHistory2x直接内存 在FusionInsight Manager首页，选择“集群 > 服务 > Spark2x
、Flink服务。 操作步骤 登录Manager页面，选择“集群 > 服务 > JobGateway > 实例”，查看所有JobServer实例节点IP。 获取部署了JobServer的节点中，IP最小的节点（以下简称“最小IP节点”）。若最小IP节点更新服务客户端失败，执行3， 否则执行4。 若
如何配置Flume定制脚本 Flume支持定制脚本，支持在传输前或者传输后执行指定的脚本，用于执行准备工作。 未安装Flume客户端场景 获取软件包。 登录FusionInsight Manager，选择“集群 > 待操作集群的名称 > 服务 > Flume”进入Flume服务界面，在右上角选择“更多
在该问题中，由于Shuffle操作，导致take算子默认有两个Partition，Spark首先计算第一个Partition，但由于没有数据输入，导致获取结果不足10个，从而触发第二次计算，因此会出现RDD的DAG结构打印两次的现象。 在代码中将print算子修改为foreach(collect)，该问题则不会出现。
r等异常。 处理步骤 检查HQL命令是否符合语法。 在FusionInsight Manager界面选择“运维 > 告警”，查看告警详情，获取产生告警的节点信息。 使用Hive客户端连接到产生该告警的HiveServer节点，查询Apache提供的HQL语法规范，确认输入的命令是
HBase应用程序运行完成后，可通过如下方式查看运行情况。 通过IntelliJ IDEA运行结果查看应用程序运行情况。 通过HBase日志获取应用程序运行情况。 登录HBase WebUI查看应用程序运行情况。可参见“更多信息 > 对外接口 > Web UI ”。 通过HBase
在Ranger管理界面查看不到创建的MRS用户 问题 在MRS Manager界面创建了一个账户，登录到Ranger管理界面后查看不到该用户。 回答 登录到Ranger管理界面的用户权限不够，需要切换至rangeradmin用户或者其他具有Ranger管理员权限的用户。 在Ranger
开发和运行环境的基本配置，版本要求如下： JDK版本号应该与用户要访问的FusionInsight Manager使用的版本号一致，具体的版本号可以查看对应版本文档或咨询系统管理员。 例如FusionInsight Manager 8.1.2.2支持的JDK是JDK 1.8.x。 安装和配置IntelliJ IDEA
start 启动作业。 stop 停止作业。 status 查询作业状态。 命令参考 sqoop2-shell有两种获取登录认证信息的方式，第一种通过配置文件获取，具体配置项请参考使用sqoop-shell工具导入数据到HDFS、使用sqoop-shell工具导入数据到HBase
多CPU内核下MapReduce调优配置 操作场景 当CPU内核数很多时，如CPU内核为磁盘数的3倍时的调优配置。 操作步骤 以下参数有如下两个配置入口： 服务器端配置 进入Yarn服务参数“全部配置”界面，在搜索框中输入参数名称。具体操作请参考修改集群服务配置参数章节。 客户端配置
导入操作 通过算子导出文件或算子模板文件将字段配置信息导入到算子中。 导出操作 将算子的字段配置信息以json文件导出保存到本地。 前提条件 获取登录“Loader WebUI”的账户和密码。 操作步骤 关联操作 登录“Loader WebUI”界面。 登录FusionInsight
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
