检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
实时报警平台搭建 在本实践用户可以了解到如何搭建一个简单的实时报警平台，该平台将应用多个云服务，结合数据开发模块的作业编辑和作业调度功能来实现。 假设客户有一个数据中心部署了很多应用，需要建立统一的运维系统，实时接收应用的告警信息。 当告警级别达到严重及以上级别时，向用户发送一条消息。
实时作业监控 实时作业监控提供了对实时处理作业的状态进行监控的能力。 实时处理作业处理实时的连续数据，主要用于实时性要求高的场景。实时作业是由一个或多个节点组成的流水线，每个节点配置独立的、节点级别的调度策略，而且节点启动的任务可以永不下线。在实时作业里，带箭头的连线仅代表业务上
补数据监控 在数据开发模块控制台的左侧导航栏，选择“运维调度 > 补数据监控”，进入补数据的任务监控页面。 用户可以在图1的页面中，查看补数据的任务状态、业务日期、并行周期数、补数据作业名称、创建人、创建时间以及停止运行中的任务。系统支持按补数据名称、创建人、日期和状态进行筛选。
本章节描述了实时处理集成作业云监控的监控指标的命名空间、监控指标列表和维度定义。 如果您需要查看实时处理集成作业相关的监控指标，请参见查看实时处理集成作业监控指标。 如果您需要在监控数据满足指定条件时发送报警通知，可参见设置实时处理集成作业告警规则。 前提条件 使用实时处理集成作业监控功能，需获取CES相关权限。
查看实时处理集成作业监控指标 操作场景 您通过云监控服务可以对实时处理集成作业的运行状态进行日常监控。您可以通过云监控管理控制台，直观地查看各项监控指标。 由于监控数据的获取与传输会花费一定时间，因此，监控显示的是当前时间5～10分钟前的状态。如果您的实时处理集成作业刚创建完成，请等待5～10分钟后查看监控数据。
批作业监控 批作业监控提供了对批处理作业的状态进行监控的能力。 批处理作业支持作业级别的调度计划，可以定期处理批量数据，主要用于实时性要求低的场景。批作业是由一个或多个节点组成的流水线，以流水线作为一个整体被调度。被调度触发后，任务执行一段时间必须结束，即任务不能无限时间持续运行。
质量作业可将规则模板或自定义规则应用到表中，进行数据质量监控。 对账作业 对账作业可将创建的规则应用到两张表中进行质量监控，并输出对账结果。 运维管理 运维管理用于查看规则运行状态，处理运维问题。 质量报告 系统根据作业的结果，会自动生成质量报告。 父主题： 数据质量监控
系统提示“操作成功”，任务恢复成功。 实时集成作业监控：查看作业详细信息 单击作业名称，可以查看该作业的详细信息。 选择“基本信息”，查看该作业的基本信息。 选择“监控信息”，查看该作业的监控信息。 单击“查看监控指标”，进入云监控服务界面查看该作业的相关监控指标。 单击“创建告警规则”，进入云监控服务的创建告警规则界面，创建该作业的告警规则。
本章节描述了CDM上报云监控的监控指标的命名空间、监控指标列表和维度定义。 如果您需要查看CDM相关的监控指标，请参见查看CDM监控指标。 如果您需要在监控数据满足指定条件时发送报警通知，可参见设置CDM告警规则。 前提条件 使用CDM监控功能，需获取CES相关权限。 命名空间 SYS
单击左侧导航栏中“流程设计”，进入流程设计页面，在流程树中选中一个流程，单击按钮在所选流程下新建流程。首次新建流程时，可选择在流程的根节点下新建流程。 图1 流程设计 在弹出对话框中配置如下参数，然后单击“确定”完成流程的创建。 图2 新建流程 表1 新建流程参数说明 参数名 说明
质量作业运行结果 监控业务指标 业务指标监控模块是对业务指标进行质量管理的工具。 为了进行业务指标监控，可以先自定义SQL指标，然后通过指标的逻辑表达式定义规则，最后新建并调度运行业务场景。通过业务场景的运行结果，可以判断业务指标是否满足质量规则。本例通过监控出租车一天的运营收入
控策略进行配置。 开发作业前，您可以通过图1了解数据开发模块作业开发的基本流程。 图1 作业开发流程 新建作业：当前提供两种作业类型：批处理和实时处理，分别应用于批量数据处理和实时连接性数据处理，其中批处理作业还支持Pipeline和单节点作业两种模式，具体请参见新建作业。 开发
度 > 作业监控”。 选择“实时集成作业监控”页签，单击作业名称。 在详情页面，选择“监控信息”，单击“创建告警规则”，进入云监控服务的创建告警规则界面，创建该作业的告警规则。 设置完成后，单击“立即创建”。当符合规则的告警产生时，系统会自动进行通知。 更多关于监控告警的信息，请参见云监控用户指南。
在作业目录中选择需要的作业，右键单击作业名称，选择“前往监控”，进入作业监控界面。 图1 前往监控 在监控界面，可以查看该作业节点的日志信息、版本信息、对该作业执行调度、单击编辑或者作业名称进行作业开发界面修改作业信息等。 图2 作业监控界面 父主题： （可选）管理作业
管理并查看监控指标 支持的监控指标 设置实时处理集成作业告警规则 查看实时处理集成作业监控指标 父主题： 实时处理集成作业开发
作业监控 批作业监控 实时作业监控 实时集成作业监控 父主题： 运维调度
仅当“重跑类型”选择“重跑当前作业及其上下游作业实例”时，才需要配置。 设置作业实例并行处理的数量，输入值不能小于1。默认值为1。 是否忽略OBS监听 系统默认为“是”。 是，重跑作业实例场景下，系统会忽略OBS监听。 否，重跑作业实例场景下，系统会监听OBS路径。 说明： 若暂未使用该参数，可忽略。 查看DAG图
查看任务监控 监控元数据采集任务运行情况，查看采集日志，支持重跑采集任务。 在数据目录页面，选择“元数据采集 > 任务监控”。在任务监控页面，对采集任务进行监控，参考表1。 表1 监控采集任务 参数名 说明 任务名称 采集任务的名称。 实例状态 实例（即采集任务）的状态。 成功 部分成功
业务指标监控简介 当前，数据架构有完善的指标设计和管理能力，建议您后续使用数据架构的业务指标功能，数据质量的业务指标监控模块即将下线。 业务指标监控模块是对业务指标进行质量管理的工具。 为了进行业务指标监控，您可以先自定义SQL指标，然后通过指标的逻辑表达式定义规则，最后新建并调
计，智能化的帮助用户生成数据处理代码，数据处理全流程质量监控，异常事件实时通知。 丰富的数据开发类型 支持多人在线协作开发，脚本开发可支持SQL、Shell在线编辑、实时查询；作业开发可支持CDM、SQL、MRS、Shell、Spark等多种数据处理节点，提供丰富的调度配置策略与海量的作业调度能力。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
