检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
整调度周期或停止调度即可。 在数据开发模块控制台的左侧导航栏，选择 “运维调度 > 实例监控”，日期选择当天，查看哪些作业调度较多。 在数据开发主界面的左侧导航栏，选择“运维调度 > 作业监控”，查看调度较多的作业设置的调度周期是否合理。如果调度周期不合理，建议适当调整这些调度周
维的告警无法正常发送。 保障作业 选择需要添加到当前基线上进行数据产出保障的任务。 单击“添加”，进入选择保障作业界面，选择作业名称。用户可以通过搜索关键字快速的选择所需要的基线保障作业名称。 用户可以对已选择的作业名称进行删除并重新添加。 说明： 选择作业名称时，建议选择业务流
配置的位点时间早于Binlog日志最早时间点时，默认会以日志最新时间点开始消费。 监控作业。 通过单击作业开发页面导航栏的“前往监控”按钮，可前往作业监控页面查看运行情况、监控日志等信息，并配置对应的告警规则，详情请参见实时集成任务运维。 图13 前往监控 性能调优 若链路同步速度过慢，可参考参见任务性能调优章节章节中对应链路文档进行排查及处理。
配置的位点时间早于Binlog日志最早时间点时，默认会以日志最新时间点开始消费。 监控作业。 通过单击作业开发页面导航栏的“前往监控”按钮，可前往作业监控页面查看运行情况、监控日志等信息，并配置对应的告警规则，详情请参见实时集成任务运维。 图14 前往监控 性能调优 若链路同步速度过慢，可参考参见任务性能调优章节章节中对应链路文档进行排查及处理。
配置的位点时间早于Kafka消息最早偏移量时，默认会从最早偏移量开始消费。 监控作业。 通过单击作业开发页面导航栏的“前往监控”按钮，可前往作业监控页面查看运行情况、监控日志等信息，并配置对应的告警规则，详情请参见实时集成任务运维。 图7 前往监控 父主题： 数据集成（实时作业）
数据质量模块支持对业务指标和数据质量进行监控，数据质量可检验，帮助用户及时发现数据质量问题。 已发布区域：全部 业务指标监控 数据质量监控 业务指标监控 业务指标监控是对业务指标数据进行质量管理的有效工具，可以灵活的创建业务指标、业务规则和业务场景，实时、周期性进行调度，满足业务的数据质量监控需求。 业务指标监控
配置的位点时间早于Kafka消息最早偏移量时，默认会从最早偏移量开始消费。 监控作业。 通过单击作业开发页面导航栏的“前往监控”按钮，可前往作业监控页面查看运行情况、监控日志等信息，并配置对应的告警规则，详情请参见实时集成任务运维。 图9 前往监控 性能调优 若链路同步速度过慢，可参考参见任务性能调优章节章节中对应链路文档进行排查及处理。
区表最小桶数请设置1个。 同时，可通过在Hudi的目的端配置中单击“Hudi表属性全局配置”或在映射后的单表“表属性编辑”中，添加优化参数。 图1 添加自定义属性 表1 Hudi写入优化参数 参数名 类型 默认值 说明 hoodie.sink.flush.tasks int 1 Hudi
区表最小桶数请设置1个。 同时，可通过在Hudi的目的端配置中单击“Hudi表属性全局配置”或在映射后的单表“表属性编辑”中，添加优化参数。 图1 添加自定义属性 表1 Hudi写入优化参数 参数名 类型 默认值 说明 hoodie.sink.flush.tasks int 1 Hudi
如果您需要匹配多条消息记录，可以添加多个Dummy节点并分别添加到Subjob节点的IF条件，然后将数据开发组件配置项中的“多IF策略”设置为“逻辑或”即可。 图4 编辑参数表达式 测试运行作业job_agent，在工作空间A的作业job1未运行的情况下，前往实例监控中查看执行结果是否符合预期。
开发一个MRS Spark Python作业 本章节介绍如何在数据开发模块上进行MRS Spark Python作业开发。 案例一：通过MRS Spark Python作业实现统计单词的个数 前提条件： 开发者具有OBS相关路径的访问权限。 数据准备： 准备脚本文件"wordcount
配置的位点时间早于CDC日志最早时间点时，默认会以日志最新时间点开始消费。 监控作业。 通过单击作业开发页面导航栏的“前往监控”按钮，可前往作业监控页面查看运行情况、监控日志等信息，并配置对应的告警规则，详情请参见实时集成任务运维。 图14 前往监控 性能调优 若链路同步速度过慢，可参考参见任务性能调优章节章节中对应链路文档进行排查及处理。
执行对账作业并查看结果分析 在数据质量模块左侧导航栏中，选择“数据质量监控 > 对账作业”。 单击对账作业操作列中的“运行”，运行对账作业。 图12 运行对账作业 在数据质量模块左侧导航栏中，选择“数据质量监控 > 运维管理”，进入运维管理页面。 图13 进入运维管理页面 作业执
MySQL到MRS Hudi参数调优 源端优化 MySQL抽取优化 可通过在作业任务配置参数单击中“添加自定义属性”来新增MySQL同步参数。 图1 添加自定义属性 可使用的调优参数具体如下： 表1 全量阶段优化参数 参数名 类型 默认值 说明 scan.incremental.snapshot
配置的位点时间早于Binlog日志最早时间点时，默认会以日志最早时间点开始消费。 监控作业。 通过单击作业开发页面导航栏的“前往监控”按钮，可前往作业监控页面查看运行情况、监控日志等信息，并配置对应的告警规则，详情请参见实时集成任务运维。 图17 前往监控 性能调优 若链路同步速度过慢，可参考参见任务性能调优章节章节中对应链路文档进行排查及处理。
"description" : "数据监控责任人", "required" : false, "searchable" : false, "actived" : false, "label" : "数据监控责任人", "disabled"
配置的位点时间早于Binlog日志最早时间点时，默认会以日志最新时间点开始消费。 监控作业。 通过单击作业开发页面导航栏的“前往监控”按钮，可前往作业监控页面查看运行情况、监控日志等信息，并配置对应的告警规则，详情请参见实时集成任务运维。 图12 前往监控 性能调优 若链路同步速度过慢，可参考参见任务性能调优章节章节中对应链路文档进行排查及处理。
配置的位点时间早于Binlog日志最早时间点时，默认会以日志最新时间点开始消费。 监控作业。 通过单击作业开发页面导航栏的“前往监控”按钮，可前往作业监控页面查看运行情况、监控日志等信息，并配置对应的告警规则，详情请参见实时集成任务运维。 图15 前往监控 性能调优 若链路同步速度过慢，可参考参见任务性能调优章节章节中对应链路文档进行排查及处理。
配置的位点时间早于CDC日志最早时间点时，默认会以日志最新时间点开始消费。 监控作业。 通过单击作业开发页面导航栏的“前往监控”按钮，可前往作业监控页面查看运行情况、监控日志等信息，并配置对应的告警规则，详情请参见实时集成任务运维。 图13 前往监控 性能调优 若链路同步速度过慢，可参考参见任务性能调优章节章节中对应链路文档进行排查及处理。
勾选“仅更新数据目录中的元数据”：采集任务仅更新数据目录已经采集到的元数据 勾选“仅添加新元数据”：采集任务仅采集数据源中存在，但是数据目录中不存在的元数据 勾选“更新数据目录中的元数据、添加新元数据”：采集任务全量同步数据源中的元数据 勾选“忽略更新、添加操作”：不采集数据源中的元数据 数据源元数据已删除 当
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
