检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
图2 查看任务状态 对于暂时不发布的发布项，开发者、部署者和管理员可以进行撤销。 发布后，通过操作列的“查看详情”可以查看任务的发布状态和启动状态，在操作列的“版本对比”可以查看发布包不同版本间的内容差异。 图3 查看发布详情 父主题： 脚本开发
查看CDM监控指标 操作场景 您通过云监控服务可以对CDM集群的运行状态进行日常监控。您可以通过云监控管理控制台，直观地查看各项监控指标。 由于监控数据的获取与传输会花费一定时间，因此，监控显示的是当前时间5～10分钟前的状态。如果您的CDM集群刚创建完成，请等待5～10分钟后查看监控数据。
an index starting at 1 but was 0”，即数组下标必须从1开始，a[1]表示数组中的第一个元素。 查看该CDM实时作业：配置源端为Kafka，目的端为DLI字段映射，赋值来源为“源表字段”，赋值框使用kafka消息中的嵌套json数组写入方式为a[0]。由
单击“确定”。数仓模型新建完成。 更多操作如下： 单击已新建的数仓模型右侧的“编辑”，可以修改数仓模型的参数信息，数据连接类型不支持修改。 单击已新建的数仓模型右侧的“删除”，可以删除数仓模型。删除操作无法恢复，请谨慎操作。如果模型包含业务表，无法删除。 单击已新建的数仓模型的“数据表”或“字段”或“标准覆盖
该接口只统计运行成功的实例，每小时统计一次，任务表示作业中的算子。 请求参数 表2 请求Header参数 参数名 是否必选 参数类型 说明 workspace 否 String 工作空间id。 如果不设置该参数，默认查询default工作空间下的数据。 如果需要查询其他工作空间的数据，需要带上该消息头。
模式、管理数据表。 在同一个数据连接下，可支持多个作业运行和多个脚本开发，当数据连接保存的信息发生变化时，您只需在连接管理中编辑修改该数据连接的信息。 新建数据连接 数据开发模块的数据连接，是基于管理中心的数据连接完成的，创建方法请参考配置DataArts Studio数据连接参数。
异常。 初始化向量：这里的初始化向量必须与加密时配置的初始化向量一致，否则解密出来的数据会错误，且系统不会提示异常。 这样CDM从HDFS导出加密过的文件时，写入目的端的文件便是解密后的明文文件。 目的端配置加密 创建CDM导入文件到HDFS的作业时，目的端数据源选择HDFS、文
式。 APP认证方式的API只能授权给APP类型的应用。 IAM认证方式的API只能授权给IAM类型的应用。 申请将API授权给应用 使用APP或IAM认证方式的API，在将API授权后，才能进行API调用。授权可以分为API开发者主动授权和API调用者申请授权，本文以API调用者申请授权为例进行介绍。
Token的值） 使用Token认证时必选。 workspace 是 String 工作空间ID，获取方法请参见实例ID和工作空间ID。 X-Project-Id 否 String 项目ID，获取方法请参见项目ID和账号ID。 多project场景采用AK/SK认证的接口请求，则该字段必选。
Token的值） 使用Token认证时必选。 workspace 是 String 工作空间ID，获取方法请参见实例ID和工作空间ID。 X-Project-Id 否 String 项目ID，获取方法请参见项目ID和账号ID。 多project场景采用AK/SK认证的接口请求，则该字段必选。
配置HBase 目的端参数 表1 Hbase作为目的端时的作业参数 参数类型 参数名 说明 取值样例 基本参数 表名 写入数据的目标表名，单击输入框后面的按钮可进入表的选择界面。 该参数支持配置为时间宏变量，且一个路径名中可以有多个宏定义变量。使用时间宏变量和定时任务配合，可以实现定期
一对一依赖。 所以作业A与作业B的依赖情况为： 作业A在3点的实例，依赖作业B在0点的实例；作业A在6点的实例，依赖作业B在8点的实例；作业A在8点的实例，依赖作业B在 16点的实例。 规则二：自然天内，上下游任务数量不一致，下游任务运行当天生成的周期实例，将会根据就近原则挂载依
布包名称进行模糊查询。 图2 查看任务状态 对于暂时不发布的发布项，开发者、部署者和管理员可以进行撤销。 发布后，通过操作列的“查看详情”可以查看任务的发布状态和启动状态，在操作列的“版本对比”可以查看发布包不同版本间的内容差异。 图3 查看发布详情 父主题： 作业开发
为了在DataArts Studio平台中对迁移到云上的原始数据进行管理和监控，我们必须先在DataArts Studio数据目录模块中对SDI贴源层数据进行元数据采集并监控。 采集并监控元数据 在DataArts Studio控制台首页，选择对应工作空间的“数据目录”模块，进入数据目录页面。 在左侧导航栏选择“元数据采集
概览 本章节汇总了基于Migration实时数据集成服务常见应用场景的操作指导，每个实践我们提供了详细的方案描述和操作指导，用于指导您快速实现数据库迁移和同步。 表1 Migration基础实践一览表 数据源分类 源端数据源 对应目的端数据源 相关文档 关系型数据 MySQL Hadoop：MRS
Hive作为数据源，CDM自动使用Hive数据分片文件进行数据分区。 表1 Hive作为源端时的作业参数 参数类型 参数名 说明 取值样例 基本参数 读取方式 包括HDFS和JDBC两种读取方式。默认为HDFS方式，如果没有使用WHERE条件做数据过滤及在字段映射页面添加新字段的需求，选择HDFS方式即可。 HDF
需要抽取数据的表名，例如“cdm”。 fromJobConfig.columnFamilies 否 String 抽取数据所属的列族。 fromJobConfig.columns 否 String 需要抽取的列，列号之间使用“&”分割，列族与列之间用“:”分隔，例如：“cf1:c1&cf2:c2”。
异常。 初始化向量：这里的初始化向量必须与加密时配置的初始化向量一致，否则解密出来的数据会错误，且系统不会提示异常。 这样CDM从HDFS导出加密过的文件时，写入目的端的文件便是解密后的明文文件。 目的端配置加密 创建CDM导入文件到HDFS的作业时，目的端数据源选择HDFS、文
件，选择不同的执行路径，可使用IF条件判断。 本教程包含以下三个常见场景举例。 根据前一个节点的执行状态进行IF条件判断 根据前一个节点的输出结果进行IF条件判断 多IF条件下当前节点的执行策略 IF条件的数据来源于EL表达式，通过EL表达式，根据具体的场景选择不同的EL表达式来
如何查看表行数和库大小 在数据治理流程中，我们常常需要统计数据表行数或数据库的大小。其中，数据表的行数可以通过SQL命令或数据质量作业获取；数据库大小可以直接在数据目录组件中查看，详情请参考如下操作指导： 统计数据表行数 统计数据库大小 统计数据表行数 对于不同类型的数据源，DataArts
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
