-
时间宏变量使用解析 - 数据治理中心 DataArts Studio
dateformat(format, dateOffset, dateType) format表示返回日期的格式。 dateOffset表示日期的偏移量。 dateType表示日期的偏移量的类型。 目前dateType支持以下几种类型:SECOND(秒),MINUTE(分钟),HO
-
逻辑模型设计 - 数据治理中心 DataArts Studio
单击该模型的转换按钮。 图11 逻辑模型转换 在“转换为物理模型”对话框中,配置如下参数,然后单击“确定”。 图12 转换为物理模型 逻辑模型转换为物理模型时,系统会先校验是否有前缀,无前缀会自动添加前缀。 表6 参数描述 参数名称 说明 *模型名称 逻辑模型所需转换的物理模型的
-
数据治理模块域 - 数据治理中心 DataArts Studio
对象,需在后继的开发中进行数字化落地。 数据开发 数据开发是编排、调度和运维的中心,数据开发是一个提供分析、设计、实施、部署及维护一站式数据解决方案,完成数据加工、转换和质量提升等。数据开发屏蔽了各种数据存储的差异,一站式满足从数据集成、数据清洗/转换、数据质量监控等全流程的数据处理,是数据治理实施的主战场。
-
MySQL数据迁移到MRS Hive分区表 - 数据治理中心 DataArts Studio
创建Hive连接 单击CDM集群后的“作业管理”,进入作业管理界面,再选择“连接管理 > 新建连接”,进入选择连接器类型的界面,如图5所示。 图5 选择连接器类型 连接器类型选择“MRS Hive”后单击“下一步”配置Hive连接参数,如图6所示。 图6 创建MRS Hive连接
-
支持的数据源(2.9.3.300) - 数据治理中心 DataArts Studio
仅支持Generic Edition。 不支持BW/4 FOR HANA。 仅支持英文字母的数据库名、表名与列名,不支持存在空格、符号等特殊字符。 仅支持日期、数字、布尔、字符(除SHORTTEXT) 类型的数据类型,不支持二进制类型等其他数据类型。 迁移时不支持目的端自动建表。 分库 数据仓库:数据湖探索(DLI)
-
任务管理 - 数据治理中心 DataArts Studio
进行终止、重跑等操作。 表5 配置周期调度参数 参数名 说明 生效日期 调度任务的生效时间段。 调度周期 选择调度任务的执行周期,并配置相关参数。 分钟 小时 天 周 开始时间 周期调度开始的具体时间,与生效日期中的开始时期配合使用。 间隔时间 两次周期调度之间的间隔时间。 即使
-
数据集成 - 数据治理中心 DataArts Studio
CDM可以跨账户使用吗? CDM集群是否支持升级操作? CDM迁移性能如何? CDM不同集群规格对应并发的作业数是多少? 是否支持增量迁移? 是否支持字段转换? Hadoop类型的数据源进行数据迁移时,建议使用的组件版本有哪些? 数据源为Hive时支持哪些数据格式? 是否支持同步作业到其他集群?
-
查看质量报告 - 数据治理中心 DataArts Studio
单击“业务报告”页签,选择主题及截至日期,查询截至日期前7天的数据质量评分,如图6所示。 图6 业务对象 以评分满分为5分为例。其中4-5分评价为优秀,3-4分为良好,2-3分为中等,1-2分为及格,0-1分为不及格。 当天质量评分数据在次日凌晨生成。 质量评分历史趋势中的实线为截至日期前7天质量评分
-
DateUtil内嵌对象 - 数据治理中心 DataArts Studio
将Date类型时间转换为long类型时间戳。 将作业调度计划时间转换为时间戳。 #{DateUtil.getTime(Job.planTime)} Date parseDate(String str, String pattern) 字符串按pattern转换为Date类型,pa
-
通知周期概览 - 数据治理中心 DataArts Studio
数据;按月发送,通知记录为往前推30天时间段的数据 选择时间 是 当“调度周期”选择为“周”或者“月”时,才需要配置。 设置通知发送的具体日期。 当调度周期为周时,可设置为一周中星期一至星期日的某一天或某几天。 当调度周期为月时,可设置为一月中每月1号至每月31号的某一天或某几天。
-
为什么会提示每日执行节点个数超过上限,应该怎么处理? - 数据治理中心 DataArts Studio
您可通过如下方式排查哪些作业调度节点次数较高,然后适当调整调度周期或停止调度即可。 在数据开发模块控制台的左侧导航栏,选择 “运维调度 > 实例监控”,日期选择当天,查看哪些作业调度较多。 在数据开发主界面的左侧导航栏,选择“运维调度 > 作业监控”,查看调度较多的作业设置的调度周期是否合理。
-
时间宏变量使用解析 - 数据治理中心 DataArts Studio
dateformat(format, dateOffset, dateType) format表示返回日期的格式。 dateOffset表示日期的偏移量。 dateType表示日期的偏移量的类型。 目前dateType支持以下几种类型:SECOND(秒),MINUTE(分钟),HO
-
嵌入数据水印 - 数据治理中心 DataArts Studio
在弹出的创建任务页面输入基本信息,参数配置请参考表1。 表1 基本信息参数配置 参数名 参数描述 *任务名称 嵌入水印任务的名称,只能包含英文字母、数字、中文字符、下划线或中划线,且长度为1~64个字符。 为便于水印嵌入任务管理,建议名称中标明要嵌入水印的对象和水印标识。 描述 为更好地识别嵌入水印任务,此处加以描述信息。
-
补数据场景使用介绍 - 数据治理中心 DataArts Studio
系统自动显示需要补数据的作业名称。 业务日期 选择需要补数据的时间段。这个业务日期会传递给作业的计划时间。作业运行时,作业计划时间就会被补数据里面的业务时间替换掉。 说明: 一个作业可进行多次补数据。但多次补数据的业务日期需要避免交叉重叠,否则可能导致数据重复或混乱,用户请谨慎操作。 如果勾选了“按日期倒序补数
-
补数据场景使用介绍 - 数据治理中心 DataArts Studio
系统自动显示需要补数据的作业名称。 业务日期 选择需要补数据的时间段。这个业务日期会传递给作业的计划时间。作业运行时,作业计划时间就会被补数据里面的业务时间替换掉。 说明: 一个作业可进行多次补数据。但多次补数据的业务日期需要避免交叉重叠,否则可能导致数据重复或混乱,用户请谨慎操作。 如果勾选了“按日期倒序补数
-
新建规则模板 - 数据治理中心 DataArts Studio
电话格式校验 通过内置的正则表达式规则,校验数据表中指定字段的合法情况。 邮编格式校验 通过内置的正则表达式规则,校验数据表中指定字段的合法情况。 日期格式校验 通过内置的正则表达式规则,校验数据表中指定字段的合法情况。 合法性校验 通过输入自定义的正则表达式,校验数据表中指定字段的合法情况。
-
简易变量集参考 - 数据治理中心 DataArts Studio
yyyy:表示4位的年份,取值为业务日期的年份。 yy:表示2位的年份,取值为业务日期的年份后两位。 mm:表示月份,取值为业务日期的月份。 dd:表示天,取值为业务日期的天。 取N年前、N月前、N天前的时间数据请参考表1,参数只能精确到年月日,不支持小时、分钟、秒的写法。 表1 业务日期参数获取说明 业务日期场景
-
案例:搭建实时报警平台 - 数据治理中心 DataArts Studio
alarm_type; SQL语句实现的功能: 在OBS的“obs://dlfexample/alarm_info”目录下,根据日期新建DLI分区。假设当前日期为2018/10/10,那么在“obs://dlfexample/alarm_info”目录下新建“2018/10/09”的DLI分区,用于存放前一天的数据表。
-
常用EL表达式样例合集 - 数据治理中心 DataArts Studio
getYesterday(String pattern) 获取执行pattern的计划时间前一天的时间字符串,pattern为日期、时间模式,请参考日期和时间模式。 获取作业调度计划时间的前一天的时间,具体到日期: #{Job.getYesterday("yyyy-MM-dd HH:mm:ss:SSS")} String
-
管理脱敏算法 - 数据治理中心 DataArts Studio
例如x=3时,1234截断为1200,999.999截断为900,10.7截断为0。 支持配置保留小数点前几位。 日期类型截断 截断日期指定位置。 支持配置日期格式和掩盖范围。 掩码 dws指定列全掩码 dws指定数据列全脱敏。 仅当静态脱敏任务中源端、目标端数据源同为DWS,且执行引擎为DWS时才可以选择此算法。