检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
参考配置MRS集群通过IAM委托对接OBS完成存算分离集群配置后，Flume即可运行OBS作业。 本章节适用于MRS 3.x及之后的版本。 Flume对接OBS 创建用于存放数据的OBS文件夹。 登录OBS控制台。 单击“并行文件系统”进入并行文件系统页面。 在OBS控制台并行文件系统列表中，单击已新建的文件系统名称进入详情页面。
> 告警 > 告警”，在告警列表中展开此告警的详细信息，在定位信息中单击产生该告警的主机名称。 在主机的概览界面观察“磁盘IO利用率”的实时数据5分钟左右，若磁盘IO利用率多次超过设置的阈值，请联系MRS集群管理员提升磁盘配置。 如果无“磁盘IO利用率”图表，可单击右侧下拉三角，选择“定制”并勾选对应项，单击“确定”。
> 告警 > 告警”，在告警列表中展开此告警的详细信息，在定位信息中单击产生该告警的主机名称。 在主机的概览界面观察“主机CPU使用率”实时数据5分钟左右，若CPU使用率多次超过设置的阈值，请联系MRS集群管理员提升CPU。 如果无对应图表，可单击右侧下拉三角，选择“定制”并勾选对应项，单击“确定”。
当监控的租户目录下的文件对象使用率超过用户自定义设置的阈值时触发该告警，但不影响对该目录继续写入文件。一旦超过该目录分配的最大文件对象个数，则HDFS写入数据会失败。 可能原因 告警阈值配置不合理。 租户分配的文件目录数上限不合理 处理步骤 查看阈值设置是否合理 查看告警定位信息，获取上报告警的租户名称，租户目录。
Mapper<Object, Text, Text, IntWritable> { /** * map的输入，key为原文件位置偏移量，value为原文件的一行字符数据。 * 其map的输入key，value为文件分割方法InputFormat提供，用户不设置，默认 * 使用TextInputFormat。
list子命令显示provider中所有的密钥名，这个provider由用户在core-site.xml中配置或者由-provider参数指定。-metadata参数显示的是元数据。 表2 Colocation客户端Shell命令 操作 命令 描述 创建组 hdfs colocationadmin -createGroup
近似值聚合函数 在实际情况下，对大量数据进行统计时，有时只关心一个近似值，而非具体值，比如统计某产品的销量，这种时候，近似值聚合函数就很有用，它使用较少的内存和CPU资源，以便可以获取数据结果而不会出现任何问题，例如溢出到磁盘或CPU峰值。这对于数十亿行数据运算的需求很有用。 approx_median(x)
port”的值。 重新打开一个客户端连接窗口，执行以下命令，使用“kafka-console-consumer.sh”从输出Topic消费数据，查看统计结果。 cd /opt/client source bigdata_env kinit 组件操作用户（例如developuser）
ger都能访问。当前系统提供了三种共享状态信息的方法：通过文件系统共享（FileSystemRMStateStore）、通过LevelDB数据库共享（LeveldbRMStateStore）或通过ZooKeeper共享（ZKRMStateStore）。这三种方式中只有ZooKee
port”的值。 重新打开一个客户端连接窗口，执行以下命令，使用“kafka-console-consumer.sh”从输出Topic消费数据，查看统计结果。 cd /opt/client source bigdata_env kinit 组件操作用户（例如developuser）
需要允许用户使用密码方式登录Linux弹性云服务器（SSH方式），请参见SSH密码方式登录。 MRS集群安全组入方向将所有端口对客户端节点放开，具体操作请参考添加安全组规则。 登录MRS Manager页面，具体请参见访问MRS Manager（MRS 3.x之前版本），然后选择“服务管理”。 单击“下载客户端”。
少40GB。 弹性云服务器需要与MRS集群在同一个VPC网络及安全组中。 MRS集群安全组入方向将所有端口对客户端节点放开，具体操作请参考添加安全组规则。 弹性云服务器操作系统已安装NTP服务，且NTP服务运行正常。 若未安装，在配置了yum源的情况下，可执行yum install
Broker上分区分布不均衡示例 是，执行13。 否，执行11。 单击最右侧分区不均衡的条柱，查看是否包含5中获取的当前告警上报的节点，如果包含则需要执行数据均衡。 等待5分钟，查看告警是否自动清除。 是，操作结束。 否，执行13。 收集故障信息。 在FusionInsight Manager界面，选择“运维
Broker上分区分布不均衡示例 是，执行13。 否，执行11。 单击最右侧分区不均衡的条柱，查看是否包含5中获取的当前告警上报的节点，如果包含则需要执行数据均衡。 等待5分钟，查看告警是否自动清除。 是，操作结束。 否，执行13。 收集故障信息。 在FusionInsight Manager界面，选择“运维
Broker上分区分布不均衡示例 是，执行13。 否，执行11。 单击最右侧分区不均衡的条柱，查看是否包含5中获取的当前告警上报的节点，如果包含则需要执行数据均衡。 等待5分钟，查看告警是否自动清除。 是，操作结束。 否，执行13。 收集故障信息。 在FusionInsight Manager界面，选择“运维
Trigger Condition 系统当前指标取值满足自定义的告警设置条件。 对系统的影响 HDFS出现慢DataNode，会影响HDFS的数据读写性能。 可能原因 HDFS DataNode实例磁盘IO速率低、HDFS DataNode自身处理能力到达瓶颈。 HDFS各DataNode实例之间网络传输速率低。
产生该告警表示HBase服务的znode的容量使用率已经严重超过规定的阈值，会导致HBase服务的写入请求失败。 可能原因 HBase配置了容灾并且容灾存在数据同步失败或者同步速度慢。 HBase集群存在大量的WAL文件在进行split。 处理步骤 检查znode容量配置和使用量 在FusionInsight
产生该告警表示HBase服务的znode的数量使用率已经严重超过规定的阈值，会导致HBase服务的写入请求失败。 可能原因 HBase配置了容灾并且容灾存在数据同步失败或者同步速度慢； HBase集群存在大量的WAL文件在进行split。 处理步骤 检查znode数量配置和使用量 在FusionInsight
”参数，将“-Xmx”的值根据实际情况调大，并单击“保存”，单击“确定”。 出现此告警时，说明当前Loader实例设置的堆内存无法满足当前数据传输所需的堆内存，建议打开实例监控界面，在页面上调出“Loader堆内存资源状况”监控图表，观察该监控图表中“Loader使用的堆内存大小
MRS Manager 解决SQL语句过长导致作业管理界面提交SparkSQL作业失败的问题 解决带有注释的SQL语句作业执行失败问题 大数据组件 解决ClickHouse集群IAM用户同步失败问题 解决集群内Flume客户端无法使用委托访问OBS问题 解决YARN开源原生界面作业占用队列资源百分比不显示问题
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
