检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
CDL结构 CDL服务包含了两个重要的角色：CDLConnector和CDLService，CDLConnector是具体执行数据抓取任务的实例，包含了Source Connector和Sink Connector，CDLService是负责管理和创建任务的实例。 CDL服务中的CDLS
er进程正常提供服务。 12000ms root队列下失败的任务数 18026 Yarn上运行失败的任务数超过阈值 大量应用任务运行失败。 运行失败的任务需要重新提交。 50 root队列下被杀死的任务数 18025 Yarn被终止的任务数超过阈值 大量应用任务被强制终止。 50
如果设置的作业需要使用指定YARN队列功能，该用户需要已授权有相关YARN队列的权限。 设置任务的用户需要获取该任务的执行权限，并获取该任务对应的连接的使用权限。 操作前需要进行如下配置： 获取关系型数据库对应的驱动jar包保存在Loader服务主备节点的lib路径：“${BIGDATA_HOME}/FusionInsight_Porter_8
配置Oozie作业异常结束打印信息 功能描述 流程任务运行期间发生异常后，流程的异常结束节点。 参数解释 Kill Action节点中包含的各参数及其含义，请参见表1。 表1 参数含义 参数 含义 name kill活动的名称 message 根据业务需要，自定义的流程异常打印信息
启动停止MRS集群组件对系统影响 服务之间存在依赖关系，对某服务执行启动、停止和重启操作时，与该服务存在依赖关系的服务将受到影响。 启动某服务，该服务依赖的下层服务需先启动，服务功能才可生效。 停止某服务，依赖该服务的上层服务将无法提供功能。 重启某服务，依赖该服务且启动的上层服务需重启后才可生效。
如果设置的作业需要使用指定YARN队列功能，该用户需要已授权有相关YARN队列的权限。 设置任务的用户需要获取该任务的执行权限，并获取该任务对应的连接的使用权限。 操作前需要进行如下配置： 获取关系型数据库对应的驱动jar包保存在Loader服务主备节点的lib路径：“${BIGDATA_HOME}/FusionInsight_Porter_8
个重要因素。当一个长期运行的服务（比如JDBCServer），如果分配给它多个Executor，可是却没有任何任务分配给它，而此时有其他的应用却资源紧张，这就造成了很大的资源浪费和资源不合理的调度。 动态资源调度就是为了解决这种场景，根据当前应用任务的负载情况，实时的增减Exec
服务，本操作提供集群侧的配置指导，为可选任务。 操作步骤 在NFS服务器上检查NFS的共享目录权限，确认服务器可以访问MRS集群的NameNode。 以root用户登录NameNode主节点。 执行如下命令，创建目录并赋予目录写权限。 mkdir ${BIGDATA_DATA_HOME}/namenode-nfs
服务，本操作提供集群侧的配置指导，为可选任务。 操作步骤 在NFS服务器上检查NFS的共享目录权限，确认服务器可以访问MRS集群的NameNode。 以root用户登录NameNode主节点。 执行如下命令，创建目录并赋予目录写权限。 mkdir ${BIGDATA_DATA_HOME}/namenode-nfs
testFileAppend Welcome back to webhdfs! MRS集群默认只支持HTTPS服务访问，若使用HTTPS服务访问，执行3；若使用HTTP服务访问，执行4。 与HTTP服务访问相比，以HTTPS方式访问HDFS时，由于使用了SSL安全加密，需要确保Curl命令所支持
保存配置，并重启ZooKeeper服务。 服务在重启过程中将不可用。另外，依赖该服务的上层服务也将受到影响。 观察界面告警是否清除。 是，处理完毕。 否，执行8。 收集故障信息。 在FusionInsight Manager界面，选择“运维 > 日志 > 下载”。 在“服务”中勾选待操作集群的“ZooKeeper”。
配置Oozie作业异常结束打印信息 功能描述 流程任务运行期间发生异常后，流程的异常结束节点。 参数解释 Kill Action节点中包含的各参数及其含义，请参见表1。 表1 参数含义 参数 含义 name kill活动的名称 message 根据业务需要，自定义的流程异常打印信息
当系统中ommdba用户过期的期限重置，当前状态为正常，告警恢复。 告警属性 告警ID 告警级别 是否自动清除 12082 次要 是 告警参数 参数名称 参数含义 来源 产生告警的集群或系统名称。 服务名 产生告警的服务名称。 角色名 产生告警的角色名称。 主机名 产生告警的主机名。
me”参数。 当Source读取到数据，且告警处理完成时，告警恢复。 告警属性 告警ID 告警级别 是否自动清除 24004 重要 是 告警参数 参数名称 参数含义 来源 产生告警的集群名称。 服务名 产生告警的服务名称。 主机名 产生告警的主机名。 AgentId 产生告警的Agent
ARN队列的权限。 设置任务的用户需要获取该任务的执行权限，并获取该任务对应的连接的使用权限。 操作前需要进行如下配置： 从MySQL数据库安装路径下获取MySQL客户端jar包（如mysqlclient-5.8.1.jar），将其保存在Loader服务主备节点的lib路径：“$
> 阈值配置 > 服务 > Yarn”修改阈值。当Yarn ResourceManager堆内存使用率小于或等于阈值时，告警恢复。 告警属性 告警ID 告警级别 可自动清除 18008 严重 是 告警参数 参数名称 参数含义 ServiceName 产生告警的服务名称。 RoleName
UI，一种为运行中任务的Web UI，可以通过Yarn原生页面的应用链接或者REST接口访问。一种为已结束任务的Web UI，可以通过Spark2x JobHistory服务或者REST接口访问。 本章节仅支持安全模式（开启了Kerberos认证）集群。 运行中任务Web UI ACL配置。
一个重要因素。当一个长期运行的服务（比如JDBCServer），若分配给它多个Executor，可是却没有任何任务分配给它，而此时有其他的应用却资源紧张，这就造成了很大的资源浪费和资源不合理的调度。 动态资源调度就是为了解决这种场景，根据当前应用任务的负载情况，实时的增减Exec
Reduce阶段尽量放在一轮 每个Task的执行时间要合理 操作步骤 原则一：充分利用集群资源。 Job运行时，会让所有的节点都有任务处理，且处于繁忙状态，这样才能保证资源充分利用，任务的并发度达到最大。可以通过调整处理的数据量大小，以及调整map和reduce个数来实现。 reduce个数的控制使用“mapreduce
12秒）时，产生该告警。 垃圾回收（GC）时间小于阈值时，告警恢复。 告警属性 告警ID 告警级别 是否自动清除 18010 重要 是 告警参数 参数名称 参数含义 来源 产生告警的集群名称。 服务名 产生告警的服务名称。 角色名 产生告警的角色名称。 主机名 产生告警的主机名。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
