检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
要调大“spark.history.retainedApplications”参数的值。 请登录FusionInsight Manager管理界面，单击“集群 > 待操作集群的名称 > 服务 > Spark2x > 配置”，单击“全部配置”，在左侧的导航列表中，单击“JobHistory2x
Flink系统的业务执行节点，执行具体的用户任务。TaskManager可以有多个，各个TaskManager都平等。 JobManager Flink系统的管理节点，管理所有的TaskManager，并决策用户任务在哪些Taskmanager执行。JobManager在HA模式下可以有多个，但只有一个主JobManager。
Flink系统的业务执行节点，执行具体的用户任务。TaskManager可以有多个，各个TaskManager都平等。 JobManager Flink系统的管理节点，管理所有的TaskManager，并决策用户任务在哪些Taskmanager执行。JobManager在HA模式下可以有多个，但只有一个主JobManager。
待操作集群的名称 > 服务 > Loader”。 单击“实例”，显示LoaderServer实例列表。 记录“LoaderServer(主)”行的“管理IP”。 以omm用户通过21获取的IP地址登录主LoaderServer所在的主机。 执行ping命令，查看主LoaderServer所
进入Hive服务配置页面： MRS 3.x之前版本，单击集群名称，登录集群详情页面，选择“组件管理 > Hive > 服务配置”，单击“基础配置”下拉菜单，选择“全部配置”。 如果集群详情页面没有“组件管理”页签，请先完成IAM用户同步（在集群详情页的“概览”页签，单击“IAM用户同步”右侧的“同步”进行IAM用户同步）。
图1 Spark架构 表1 基本概念说明 模块 说明 Cluster Manager 集群管理器，管理集群中的资源。Spark支持多种集群管理器，Spark自带的Standalone集群管理器、Mesos或YARN。Spark集群默认采用YARN模式。 Application Spark应用，由一个Driver
SourceFunction[T]): DataStream[T] 用户自定义SourceFunction，addSource方法可以添加Kafka等数据源，主要实现方法为SourceFunction的run。 function指的是用户自定义的SourceFunction函数。
参考准备本地应用开发环境将准备好的Python虚拟环境打包，获取“venv.zip”文件。 zip -q -r venv.zip venv/ 以root用户登录主管理节点，将1和2获取的“venv.zip”、“pyflink-kafka.py”和“insertData2kafka.sql”文件上传至客户端环境。
percentage”修改百分比来控制具体的磁盘占比。 登录Manager进入服务配置页面。 MRS Manager界面操作入口：登录MRS Manager，依次选择 “服务管理 > HDFS> 配置”。 FusionInsight Manager界面操作入口：登录FusionInsight Manager，选择“集群
bytes。 解决办法 登录Manager界面，进入Kafka配置页面。 MRS 3.x之前的版本：登录MRS Manager，选择“服务管理 > Kafka > 配置 > 全部配置”。 MRS 3.x及后续版本，登录FusionInsight Manager，选择“集群 > 服务
ve和HDFS客户端的节点。 执行以下命令认证用户。 cd 客户端安装目录 source bigdata_env kinit 具有Hive管理员权限的用户（未开启Kerberos认证的集群跳过此操作） 执行以下命令在HDFS上创建Jar包存放目录。 hdfs dfs -mkdir
Manager页面，在告警列表中，单击此告警所在行的，查看该告警的主机地址。 以root用户登录告警所在主机，用户密码为安装前用户自定义，请咨询系统管理员。 若内存使用率超过阈值，对内存进行扩容。 执行命令free -m | grep Mem\: | awk '{printf("%s,",
警所在行的，查看该告警的主机地址和告警的磁盘名称DiskName。 以root用户登录告警所在主机，用户密码为安装前用户自定义，请咨询系统管理员。 执行命令df -h |grep DiskName，获取对应的挂载点，查看挂载目录的权限，是否存在不可写或者不可读。 是，执行4。 否，执行8。
WebUI的作业列表界面中单击“状态”为“已失败”或者“运行异常”的链接查看，或者在作业运行日志中查看。 处理步骤 使用具有创建CDL任务的用户或者具有管理员权限的用户登录FusionInsight Manager。 选择“运维 > 告警 > 告警”，单击“告警ID”为“45616”所在行的，在定位信息中查看发生该告警的任务名称。
造成服务数据无法写入，业务系统运行不正常。 可能原因 硬盘被拔出。 硬盘离线、硬盘坏道等故障。 处理步骤 登录MRS集群详情页面，选择“告警管理”。 在实时告警列表中，单击此告警所在行。 在“告警详情”区域，从“定位信息”中获取“HostName”、“PartitionName”和“DirName”。
bailing out 处理步骤 MRS 2.x及之前版本，操作步骤如下： 使用admin用户登录MRS Manager界面，选择“服务管理 > HBase > 服务配置”，将“参数类别”的“基础配置”切换为“全部配置”，选择“HMaster > 自定义”，给参数“hbase.hmaster
网络写包率信息 > 写包丢包率”中更改告警阈值。 等待5分钟，检查该告警是否恢复。 是，处理完毕。 否，执行4。 检查网络是否异常。 联系系统管理员，检查网络是否存在异常。 是，恢复网络故障，执行5。 否，执行6 等待5分钟，检查该告警是否恢复。 是，处理完毕。 否，执行6 收集故障信息。
对系统的影响 文件系统无法正常写入。 可能原因 磁盘小文件过多。 系统环境异常。 处理步骤 磁盘小文件过多。 登录MRS集群详情页面，选择“告警管理”。 在实时告警列表中，单击此告警。在“告警详情”区域，获取告警所在主机地址和磁盘分区。 使用PuTTY工具，以root用户登录告警所在主机。
查看MapReduce任务是否能成功执行。 是，执行2.e。 否，执行2.b。 检查Yarn服务状态。 登录MRS集群详情页面，选择“告警管理”。 在告警列表中，查看是否有“ALM-18000 Yarn服务不可用”产生。 是，执行2.c。 否，执行3。 参考ALM-18000 Yarn服务不可用（2
使用create function语句重新创建所有自定义函数。 重新打开弹性伸缩 升级完补丁后需要重新打开弹性伸缩，操作如下： 登录华为云管理控制台，在“现有集群”列表中选择对应集群，单击“弹性伸缩”。 开启安装前关闭的弹性策略。 父主题： MRS_3.3.1-LTS.1.2补丁说明
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
