检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
作业管理 MRS作业管理为用户提供向集群提交作业的入口，支持包括MapReduce、Spark、HQL和SparkSQL等类型的作业。 结合华为云数据治理中心DataArts Studio，提供一站式的大数据协同开发环境、全托管的大数据调度能力，帮助用户快速构建大数据处理中心。 通过数据治理中心DataArts
作业管理 批量迁移Loader作业 批量删除Loader作业 批量导入Loader作业 批量导出Loader作业 查看作业历史信息 父主题： 使用Loader
Console页面Flink作业状态与Yarn上的作业状态不一致？ SparkStreaming作业运行后报OBS访问403如何处理？ Spark运行作业报错“java.io.IOException: Connection reset by peer”如何处理？ Spark作业访问OBS报错“requestId=XXX”如何处理？
String 参数解释： 作业类型。 约束限制： 不涉及 取值范围： MapReduce SparkSubmit SparkPython：该类型作业将转换为SparkSubmit类型提交，MRS控制台界面的作业类型展示为SparkSubmit，通过接口查询作业列表信息时作业类型请选择SparkSubmit。
job_id_list 否 Array of strings 参数解释： 作业ID列表。获取方法，请参见获取作业ID。 约束限制： 不涉及 取值范围： 不涉及 默认取值： 不涉及 响应参数 无 请求示例 批量删除作业请求示例 POST https://{endpoint}/v2/{pr
作业管理接口 新增并执行作业 查询作业列表信息 查询单个作业信息 终止作业 获取SQL结果 批量删除作业 父主题： API V2
再进行提交作业，否则会出现提交作业失败的情况。 当前IAM用户名中存在空格时（例如admin 01），不支持添加作业。 单击“作业管理”，在作业列表界面单击“添加”。 “作业类型”选择“Flink”并参考表1配置Flink作业信息。 图1 添加Flink作业 表1 作业配置信息 参数
再进行提交作业，否则会出现提交作业失败的情况。 当前IAM用户名中存在空格时（例如admin 01），不支持添加作业。 单击“作业管理”，在作业列表界面单击“添加”。 “作业类型”选择“SparkSubmit”，并配置其他作业信息。 图1 添加Spark作业 表1 作业配置信息 参数
不涉及 取值范围： FAILED：执行失败的作业 KILLED：执行中被手动终止的作业。 UNDEFINED：正在执行的作业。 SUCCEEDED：执行成功的作业。 默认取值： 不涉及 job_state String 参数解释： 作业执行状态。 约束限制： 不涉及 取值范围： FAILED：失败
Explorer的代码示例页签，可生成自动对应的SDK代码示例。 状态码 状态码 描述 202 在MRS集群中终止指定作业成功 400 在MRS集群中终止指定作业失败 错误码 请参见错误码。 父主题： 作业管理接口
Spark作业报错“UnknownScannerExeception”如何处理？ 问题现象 Spark作业运行查看日志有些WARN日志，作业运行很慢，Caused by显示：UnknownScannerExeception。 解决方法 运行Spark作业前，调整hbase.client
参数解释： 作业运行结果。 约束限制： 不涉及 取值范围： FAILED：执行失败的作业。 KILLED：执行中被手动终止的作业。 UNDEFINED：正在执行的作业。 SUCCEEDED：执行成功的作业。 默认取值： 不涉及 queue 否 String 参数解释： 作业的资源队列类型名称。
查看作业历史信息 操作场景 该任务指导您在日常运维中，查看某个Loader作业的历史执行状态以及每次执行时长，同时提供该作业两种操作： 脏数据：查看作业执行过程中处理失败的数据、或者被清洗过滤掉的数据，针对该数据可以查看源数据中哪些数据不符合转换、清洗规则。 日志：查看作业在MapReduce执行的日志信息。
记录”和“显示作业JSON定义”。 删除作业 访问Loader页面。 在指定作业所在行，单击。 您还可以勾选一个或多个作业，单击作业列表右上方的“删除作业”。 在弹出的对话框窗口，单击“是，将其删除”。 如果某个Loader作业正处于“运行中”的状态，则无法删除作业。 父主题： 使用Loader
批量导入Loader作业 操作场景 Loader支持批量导入某个配置文件中的所有作业。 本章节适用于MRS 3.x及后续版本。 前提条件 当前用户具备待导入作业所在分组的编辑“Jobs Edit”权限。 如果作业所在的分组不存在，则会自动先创建该分组。当前用户就是该分组的创建者，拥有该分组的编辑“Jobs
减小yarn上历史作业的记录保存个数。由于Flink是长时作业，在yarn上realJob还在运行，但launcherJob已经被删除，导致因从Yarn上查不到launcherJob，从而更新作业状态失败。 终止找不到launcherJob的作业，后续提交的作业状态就会更新。 父主题：
Spark作业访问OBS报错“requestId=XXX”如何处理？ 问： Spark作业访问OBS报错，错误信息如下，如何处理？ xxx requestId=4971883851071737250 xxx 答： 登录Spark客户端节点，进入conf目录，修改配置文件“core-site
DistCP作业导入导出数据常见问题 问：DistCP类型作业导入导出数据时，是否会对比数据的一致性？ 答：DistCP类型作业导入导出数据时不会对比数据的一致性，只是对数据进行复制，不会修改数据。 问：DistCP类型作业在导出时，遇到OBS里已经存在的文件是如何处理的？ 答：
如何查看MRS作业的日志？ MRS Console页面作业管理，每一条作业支持查看日志，包含launcherJob日志和realJob日志。 launcherJob作业的日志，一般会在stderr和stdout中打印错误日志，如下图所示： realJob的日志，可以通过MRS M
提交作业失败，报错与OBS相关如何处理？ 问 为什么提交作业失败，报错与OBS相关？ 答 与OBS相关的报错，一般与读写OBS相关，可通过以下步骤进行排查。 查看作业管理中失败作业详情，找到作业详情中的实际作业编号。如果实际作业编号为空，则执行4。 登录Manager界面，选择“集群
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
