检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
在配置实时同步任务前，您需要确保源端和目的端的数据库与运行实时同步任务的实时计算资源组之间网络连通，您可以根据数据库所在网络环境，选择合适的网络解决方案来实现网络连通。 本章节主要为您介绍数据库部署在本地IDC场景下，通过公网打通网络的方案。 图1 网络示意图 约束限制 资源组不具有公网网段
在配置作业配置调度时，可以选择一年中的某个时间进行调度。如果您需要配置作业的调度时间为年调度，请参考下面的方法进行配置。 配置方法 在DataArts Studio中配置一个按月调度执行的作业，然后在作业里面新增一个Dummy节点（空节点，不处理实际的业务数据），在Dummy节点与后续执行任务的节点的连线上，
数据开发调用数据质量算子并且作业运行的时候需要传入质量参数 由于数据质量作业在执行SQL语句时不支持传参，通过数据开发调用数据质量算子，运行的时候可以把数据质量作业的参数传递给数据质量算子作业，实现数据质量的参数传递。 使用场景 数据质量需要传递参数到数据质量算子作业里面并且能够正常运行。
Studio数据质量控制台的“质量作业”页面。 图1 质量作业节点 在数据质量页面，单击质量作业名称，可以查看质量作业的基础配置。 图2 质量作业列表 单击左侧导航栏中的“运维管理”，单击操作列的“结果&日志”按钮，可查看质量作业的运行结果。 图3 质量作业运行结果 监控业务指标 业务指标监控模块是对业务指标进行质量管理的工具。
导致JDBC连接超时。 图1 非索引列 解决方案 优先联系DBA修改表结构，将需要过滤的列配置为索引列，然后重试。 如果由于数据不离散，导致还是失败请参考2~4，通过增大JDBC超时时间解决。 根据作业找到对应的MySQL连接名称，查找连接信息。 图2 连接信息 单击“连接管理
在配置实时同步任务前，您需要确保源端和目的端的数据库与运行实时同步任务的实时计算资源组之间网络连通，您可以根据数据库所在网络环境，选择合适的网络解决方案来实现网络连通。 本章节主要为您介绍数据库部署在本地IDC场景下，通过VPN打通网络的方案。 图1 网络示意图 约束限制 资源组为私网网段，不
SDI贴源层的原始数据表。 历史数据清洗，使用数据开发的MRS Hive SQL脚本将源数据表清洗之后导入DWI层的标准出行数据表。 将基础数据插入维度表中。 将DWI层的标准出行数据导入DWR层的事实表中。 数据汇总，通过Hive SQL将出租车行程订单事实表中的数据进行汇总统计并写入汇总表。
在配置实时同步任务前，您需要确保源端和目的端的数据库与运行实时同步任务的实时计算资源组之间网络连通，您可以根据数据库所在网络环境，选择合适的网络解决方案来实现网络连通。 本章节主要为您介绍数据库部署在本地IDC场景下，通过云专线打通网络的方案。 图1 网络示意图 约束限制 资源组为私网网段，不
在配置实时同步任务前，您需要确保源端和目的端的数据库与运行实时同步任务的实时计算资源组之间网络连通，您可以根据数据库所在网络环境，选择合适的网络解决方案来实现网络连通。 本章节主要为您介绍数据库部署在华为云，且与Migration资源组同Region不同租户的场景下，通过对等连接打通网络的方案。 图1 网络示意图
在配置实时同步任务前，您需要确保源端和目的端的数据库与运行实时同步任务的实时计算资源组之间网络连通，您可以根据数据库所在网络环境，选择合适的网络解决方案来实现网络连通。 本章节主要为您介绍数据库部署在华为云，且与Migration资源组不同Region场景下，通过云连接打通网络的方案。 图1 网络示意图 约束限制
Each循环执行的节点，让CDM子作业循环执行，并配置节点属性参数。 配置MRS Spark SQL节点的属性参数，并关联已创建的脚本maxtime。 图3 配置MRS Spark SQL节点属性参数 配置For Each节点的属性参数，并关联已创建的CDM子作业。 图4 配置For
信息。 图2 配置入口API算子 在API目录找到需要转换的普通API并拖拽到画布，挂载到入口API下。单击画布上的普通API打开配置面板，复制节点编码例如：NormalApi_5274d。 图3 复制节点编码 拖拽“输出处理”算子到画布，挂载到普通API下。单击画布上的输出处理算子打开配置面板，配置输出处理算子：
用于连通数据源和资源组网络的中间桥梁，本方案中需要使用云专线虚拟网关所配置的虚拟私有云和对应配置的子网。 查看方式： 登录云专线控制台，在左侧导航栏，选择“云专线 > 虚拟网关”，在列表中找到连通其他云所使用的虚拟网关，单击虚拟网关名称，查看关联的虚拟私有云和本端子网。 图2 查看虚拟网关
场景下的网络打通方案。 图1 网络示意图 约束限制 资源组为私网网段，不能与数据源网段重叠，否则会导致网络无法打通。 资源组不具有公网网段，因此本方案仅能与数据源的私网连通。 前提条件 已购买资源组，详情请参见购买数据集成资源组。 已购买并配置虚拟专用网络VPN，与云上的至少一个
数据安全运营 审计数据访问日志 诊断数据安全风险 查看表权限的拥有者（表权限视图） 查看用户的权限（成员权限视图） 父主题： 数据安全
新版控制台首页，从功能组件入口升级为集任务处理、资源监控和场景学习于一体的一站式数据工作台，全面为您提升生产效率。 图2 旧版控制台首页 图3 新版控制台首页
CDM会迁移整个目录下的文件到OBS。 文件格式：选择“二进制格式”。这里的文件格式是指CDM传输数据时所用的格式，不会改变原始文件自身的格式。迁移文件到文件时，推荐使用“二进制格式”，传输的效率和性能都最优。 目的端作业配置： 目的连接名称：选择7创建的OBS连接“obslink”。
有效期：分为开始时间和结束时间。 开始时间：表示定时配置生效的时间。 结束时间：该参数是可选参数，表示停止自动执行的时间。如果不配置，则表示一直自动执行。 图4 重复周期为周 例如上图表示：在2023年1月1日0时0分以后，每2周的周二、周六、周日的0时0分，便自动执行作业，直到2023年12月31日23时59分不再自动执行。
在配置实时同步任务前，您需要确保源端和目的端的数据库与运行实时同步任务的实时计算资源组之间网络连通，您可以根据数据库所在网络环境，选择合适的网络解决方案来实现网络连通。 本章节主要为您介绍数据库部署在华为云，且与Migration资源组同Region不同租户场景下，通过企业路由器打通网络的方案。 图1 网络示意图
可追溯性：数据的血缘关系，体现了数据的生命周期，体现了数据从产生到消亡的整个过程，具备可追溯性。 层次性：数据的血缘关系是有层次的。对数据的分类、归纳、总结等对数据进行的描述信息又形成了新的数据，不同程度的描述信息形成了数据的层次。 DataArts Studio生成的血缘关系图如图1所示，为数据表对象，为
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
