检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
能导致数据重复或混乱，用户请谨慎操作。 如果勾选了“按日期倒序补数据”，则系统按照日期倒序补跑，每日内的补数顺序仍是正序。 说明： 该功能适合在各日数据不耦合的条件下使用。 为保证补数可以倒序进行，补数据作业对更早日期作业实例的依赖关系将被忽略。 并行周期数 设置同时执行的实例数量，最多可同时执行5个实例。
POSTGRESQL：POSTGRESQL连接类型的表的数据类型。 CLICKHOUSE：CLICKHOUSE连接类型的表的数据类型。 MYSQL：MYSQL连接类型的表的数据类型。 ORACLE：ORACLE连接类型的表的数据类型。 DORIS：DORIS连接类型的表的数据类型。 图5
获取SQL节点的输出结果值 当您在数据开发模块进行作业开发，需要获取SQL节点的输出结果值，并将结果应用于后续作业节点或判断时，可参考本教程获取SQL节点的输出结果。 场景说明 使用EL表达式#{Job.getNodeOutput("前一节点名")}获取的前一节点的输出结果时，输出结果为二维数组形式
获取SQL节点的输出结果值 当您在数据开发模块进行作业开发，需要获取SQL节点的输出结果值，并将结果应用于后续作业节点或判断时，可参考本教程获取SQL节点的输出结果。 场景说明 使用EL表达式#{Job.getNodeOutput("前一节点名")}获取的前一节点的输出结果时，输出结果为二维数组形式
已准备好两套相互隔离的数据湖引擎，用于隔离开发和生产环境。 配置两套数据湖服务，进行开发与生产环境隔离。 对于集群化的数据源（例如MRS、DWS、RDS、MySQL、Oracle、DIS、ECS等），DataArts Studio通过管理中心的创建数据连接区分开发环境和生产环境的数据湖服务，在开发和
置值。 常量是指在不同的作业下都是一样的，不需要重新配置值。 图3 作业参数 作业参数定义好之后，可以在作业节点里面引用该参数。 图4 引用作业参数 脚本参数 脚本参数支持如下使用方式，脚本参数的作用范围为当前脚本。 SQL脚本支持在脚本编辑器中直接输入参数（Flink SQL不
MRS_CLICKHOUSE模型仅支持CLICKHOUSE_TABLE。 Oracle模型仅支持ORACLE_TABLE。 MySQL模型仅支持MYSQL_TABLE。 DORIS模型仅支持DORIS_TABLE。 压缩等级 当数据连接类型为DWS时，可选择压缩等级，以减少数据存储成本。
For Each 功能 该节点可以指定一个子作业循环执行，并支持用一个数据集对子作业中的变量进行循环替换。 For Each节点的具体使用教程，请参见For Each节点使用介绍。 For Each节点单次运行时，指定的子作业最多循环执行1000次。 如果DLI SQL作为前置节点，For
开发实时处理单任务MRS Flink SQL作业 对已新建的作业进行开发和配置。 开发单任务模式的实时处理Flink SQL作业，请您参考开发SQL脚本、配置作业参数、保存作业和模板章节。 前提条件 已新建作业。 当前用户已锁定该作业，否则需要通过“抢锁”锁定作业后才能继续开发作
、“-”、“/”、“<”、“>”等各类特殊字符，长度为1～128个字符。 通道名称 是 选择或输入待配置的DIS通道，输入通道名称时支持引用作业参数和使用EL表达式（参见表达式概述）。 如需新建DIS通道，请参考以下方法： 单击，前往数据开发模块的“通道管理”“”页面新建DIS通道。
执行DWS SQL脚本时，提示id不存在，如何处理？ 可能原因 在执行DWS SQL脚本时，提示id不存在，原因是由于id的大小写引起的。 解决方案 DWS执行SQL时，系统默认是小写，如果是大写字段需要加""。 举例：select * from table1 order by "ID";
配置PostgreSQL源端参数 支持从云端的数据库服务导出数据。 这些非云服务的数据库，既可以是用户在本地数据中心自建的数据库，也可以是用户在ECS上部署的，还可以是第三方云上的数据库服务。 表1 PostgreSQL作为源端时的作业参数 参数类型 参数名 说明 取值样例 基本参数
配置目录权限 本章介绍如何通过目录权限策略，基于用户、用户组或角色，对数据开发中脚本和作业的目录、数据服务专享版中API的目录以及数据架构中的物理模型和逻辑模型进行权限控制。 当工作空间内未配置数据开发、数据服务和数据架构的目录权限策略时，所有用户默认可以查看并操作数据开发、数据服务和数据架构的目录及其中的资源项。
IF条件判断教程 当您在数据开发模块进行作业开发编排时，想要实现通过设置条件，选择不同的执行路径，可使用IF条件判断。 本教程包含以下三个常见场景举例。 根据前一个节点的执行状态进行IF条件判断 根据前一个节点的输出结果进行IF条件判断 多IF条件下当前节点的执行策略 IF条件的
执行RDS SQL，报错hll不存在，在DataArts Studio可以执行成功？ 问题描述 执行RDS SQL，报错hll不存在，作业和可以执行成功。 解决方案 这个hll插件默认创建在public schema，SQL需要带上hll所属的schema。 父主题： 数据开发
SQLServer到MRS Hudi参数调优 源端优化 SQLServer抽取优化 可通过在作业任务配置参数单击中“添加自定义属性”来新增SQLServer同步参数。 图1 添加自定义属性 可使用的调优参数具体如下： 表1 全量阶段优化参数 参数名 类型 默认值 说明 scan.incremental
数据安全治理维度 根据DSMM评估模型，可以从组织建设、制度流程、技术工具、人员能力四个维度开展数据安全治理能力建设工作。 图1 数据安全能力建设工作 组织建设 数据安全组织架构是数据安全治理体系建设的前提条件。通过建立专门的数据安全组织，落实数据安全管理责任，确保数据安全相关工作能够持续稳定的贯彻执行。
通信使用二进制协议开关，即useCursorFetch=true。部分第三方可能存在兼容问题导致迁移时间转换出错，可以关闭此开关；开源MySQL数据库支持useCursorFetch参数，无需对此参数进行设置。 数据源认证及其他功能配置 认证类型 是 访问集群的认证类型： SIM
查询SQL获取max值传递给CDM作业 场景描述 通过查询SQL语句，将获取到的最大时间的max值传递给CDM作业。在CDM作业的高级属性里面，通过where子句判断最大时间范围，获取所需要的迁移数据，从而完成数据迁移任务，最终完成增量迁移任务。 约束条件 已完成新建数据连接的操作。
Job内嵌对象 Job为作业对象，提供了获取作业中上一节点的输出消息、作业调度计划时间、作业执行时间等属性和方法。 属性和方法 表1 属性说明 属性 类型 描述 name String 作业名称。 planTime java.util.Date 作业调度计划时间，即周期调度配置的时间，例如每天凌晨1:01调度作业。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
