检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
executor.memory=4G; set spark.executor.instances=10; 参数值大小请根据实际业务情况调整。 父主题： 作业管理类
使用Hue提交Bundle批处理作业 操作场景 当同时存在多个定时任务的情况下，用户可以通过Bundle任务进行批量管理作业。该任务指导用户通过Hue界面提交批量类型的作业。 前提条件 提交Bundle批处理之前需要提前配置好相关的Workflow和Coordinator作业。 操作步骤 访问Hue
FlinkSQL作业定义，根据用户输入的Sql，校验、解析、优化、转换成Flink作业并提交运行。 Flink作业可视化管理 支持可视化定义流作业和批作业。 支持作业资源、故障恢复策略、Checkpoint策略可视化配置。 流作业和批作业的状态监控。 Flink作业运维能力增强，包括原生监控页面跳转。
inerlogs/”目录内。 Spark Job完成的任务日志保存在HDFS的“/tmp/logs/用户名/logs”目录内。 父主题： 作业管理类
配置FlinkServer作业运行残留信息自动清理 操作场景 Flink任务异常停止时会在ZooKeeper、HDFS中残留目录，开启FlinkServer目录残留清理功能可以清理残留目录。 配置作业残留信息自动清理步骤 登录Manager页面。 选择“集群 > 服务 > Flink
配置源数据心跳表实现数据判齐功能 操作场景 心跳和数据判齐功能用于统计CDL同步任务的全链路信息， 包括从数据库管理系统RDBMS到Kafka的数据耗时、从Kafka消费数据写入到Hudi的数据耗时和数据条数等一系列信息，并将其写入到特定的Topic（cdl_snapshot_t
WebUI，如：flink_admin。 创建作业步骤 使用flink_admin登录Manager，选择“集群 > 服务 > Flink”，在“Flink WebUI”右侧，单击链接，访问Flink的WebUI。 参考如何创建FlinkServer作业，新建Flink SQL流作业，在作业开发界面进行作业开发，配置完成后启动作业。
作业无法提交如何定位？ 问题背景与现象 通过DataArts Studio或者在MRS管理控制台无法提交作业。 问题影响 作业无法提交，业务中断。 处理步骤 确认异常来源。 查看作业日志中收到的错误码，确认错误码是属于APIG还是MRS。 若是公共APIG的错误码（APIG的错误
~100000。 100000 作业参数配置完成后，拖拽图标将作业进行关联，然后单击“保存”，作业配置完成。 在“作业管理”的作业列表中，找到创建的作业名称，单击操作列的“启动”，等待作业启动。 观察数据传输是否生效，例如在MySQL数据库中对作业中指定的表进行插入数据操作，查看Hudi导入的文件内容是否正常。
FlinkSQL作业定义，根据用户输入的Sql，校验、解析、优化、转换成Flink作业并提交运行。 Flink作业可视化管理 支持可视化定义流作业和批作业。 支持作业资源、故障恢复策略、Checkpoint策略可视化配置。 流作业和批作业的状态监控。 Flink作业运维能力增强，包括原生监控页面跳转。
DataArts Studio调度Spark作业失败 问题现象 DataArts Studio作业调度失败，显示读取“/thriftserver/active_thriftserver”路径下的数据失败。 报错信息为： Can not get JDBC Connection, due
配置FlinkServer作业中添加第三方依赖jar 本章节适用于MRS 3.3.0及之后的版本。 Flink支持通过第三方依赖包来运行自定义Flink作业。可以在Flink WebUI界面中上传并管理依赖jar包，然后在运行作业时调用对应依赖。依赖管理暂不支持“语义”校验功能，
mb”的值为“2048”。 使用sh /opt/executor/bin/restart-executor.sh重启executor进程。 父主题： 作业管理类
监控Spark作业的大目录监控路径中作业ID的提取规则，例如： {subdir}/{appid}：作业ID在监控目录的子目录中，子目录名称不固定。 {appid}：作业ID在监控目录下。 {appid} spark.job.hdfs.dir.threshold 监控Spark作业的大目录阈值，超过当前阈值就会上报事件。
Boolean 参数解释： 作业完成后是否自动删除集群。 约束限制： 不涉及 取值范围： true：作业完成后自动删除集群。 false：作业完成后不自动删除集群。 默认取值： false。 steps 是 Array of StepConfig objects 参数解释： 作业列表。 约束限制：
我已阅读此信息并了解其影响。”，再单击“确定”删除与服务资源的关联。 单击“确定”。 单击“确定”，等待界面提示租户创建成功。 父主题： 作业管理类
或参考获取集群ID获取。 已获取作业ID，即作业提交成功后返回结果中的“job_id”或参考获取作业ID获取。 IAM用户已同步完成，可通过在集群详情页的“概览”页签，单击“IAM用户同步”右侧的“单击同步”进行IAM用户同步。 作业相关程序和输入文件已存放在OBS中。 该示例以新增MapReduce作业为例。
使用Hue提交Coordinator定时调度作业 操作场景 该任务指导用户通过Hue界面提交定时调度类型的作业。 前提条件 提交Coordinator任务之前需要提前配置好相关的workflow作业。 操作步骤 访问Hue WebUI，请参考访问Hue WebUI界面。 在界面左
使用应用管理可以创建、查看、删除应用。 使用流表管理可以新建、查看、编辑和删除流表。 使用作业管理可以新建、查看、启动、开发、编辑、停止和删除作业等。 父主题： 创建FlinkServer作业前准备
使用Hue提交Coordinator定时调度作业 操作场景 该任务指导用户通过Hue界面提交定时调度类型的作业。 前提条件 提交Coordinator任务之前需要提前配置好相关的workflow作业。 操作步骤 访问Hue WebUI，请参考访问Hue WebUI界面。 在界面左
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
