检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
已开通对象存储服务OBS，并创建桶，例如“obs://dlfexample”，用于存放Spark作业的JAR包。 已开通数据湖探索服务DLI，并创建Spark集群“spark_cluster”，为Spark作业提供运行所需的物理资源。 获取Spark作业代码 本示例使用的Spar
作业日志和DLI脏数据默认存储在以dlf-log-{Project id}命名的OBS桶中，您也可以自定义日志和DLI脏数据存储路径，支持基于工作区全局配置OBS桶。 约束限制 该功能依赖于OBS服务。 OBS路径仅支持OBS桶，不支持并行文件系统。 前提条件 修改工作空间的用户账号，需要满足如下任一条件： DAYU
必须选择“CSV格式”。 图1 正则表达式参数 在迁移CSV格式的文件时，CDM支持使用正则表达式分隔字段，并按照解析后的结果写入目的端。正则表达式语法请参考对应的相关资料，这里举例下面几种日志文件的正则表达式的写法： Log4J日志 Log4J审计日志 Tomcat日志 Django日志
必须选择“CSV格式”。 图1 正则表达式参数 在迁移CSV格式的文件时，CDM支持使用正则表达式分隔字段，并按照解析后的结果写入目的端。正则表达式语法请参考对应的相关资料，这里举例下面几种日志文件的正则表达式的写法： Log4J日志 Log4J审计日志 Tomcat日志 Django日志
数据开发操作列表 云审计服务（Cloud Trace Service，简称CTS）为用户提供了云账户下资源的操作记录，可以帮您记录相关的操作事件，便于日后的查询、审计和回溯。 表1 支持云审计的关键操作列表 操作名称 资源类型 事件名称 创建作业 job createJob(api) 修改作业
华为联合亿信华辰提供数据入表全方位助力 作为Gartner认可的数据资产管理标杆厂商、IDC认证的中国数据治理解决方案市场第一厂商，亿信华辰一直走在数据资产化前列。面对数据入表的需求，亿信华辰不仅提供全套数据治理软件，让数据采集、加工、治理、应用更加便捷。还为企业搭建数据入表所需的信息系统及提供成本法入表服务，帮助实现半自动化、全自动化的数据入表。
是 MRS集群的访问密码，通过代理连接的时候，是必选项。 OBS支持 是 是否支持OBS存储，如果hudi表数据存储在OBS，需要打开此开关。 使用委托 否 OBS为是时显示该参数。 开启委托功能，即可以在无需持有永久AKSK的情况下创建数据连接，根据DLF配置的调度身份执行CDM作业。
可选择数据模型或数据软件服务的形式，以特许经营、软件授权等方式来产生可持续现金流。 数据产品的结算系统搭建非常关键，建立合理的利益分配机制，必要时考虑分销路线，有利于将数据资产收入最大化。需要注意的是，由于数据可以无限复制，具有弱排他性，所以市场的参与者需要从一开始就建立营销体
到DWS的任务。 图4 创建Oracle到DWS的迁移任务 作业名称：用户自定义便于记忆、区分的任务名称。 源端作业配置 源连接名称：选择创建Oracle连接中的“oracle_link”。 模式或表空间：待迁移数据的数据库名称。 表名：待迁移数据的表名。 高级属性里的可选参数一般情况下保持默认即可。
业提供的性能规格）等情况，需要考虑以下几点： 目的端写入过慢。 源端抽取过慢。 其他问题（请联系技术支持人员协助解决）。 因为目的端写入过慢会影响至源端，导致源端抽取速度下降，因此链路速度过慢请优先排查目的端写入速度，在排除目的端因素后再排查上游。 目的端写入慢 检查目的端负载是
CloudTable：通道里的流式数据存储在DIS中，并实时导入表格存储服务Cloudtable集群的HBase/OpenTSDB表。 OBS：通道里的流式数据存储在DIS中，并周期性导入对象存储服务OBS；通道里的实时文件数据传输完成后，导入OBS。 说明： 转储至CloudTable，仅华北-北京一区域支持。
管理中心操作列表 云审计服务（Cloud Trace Service，简称CTS）为用户提供了云账户下资源的操作记录，可以帮您记录相关的操作事件，便于日后的查询、审计和回溯。 表1 支持云审计的关键操作列表 操作名称 资源类型 事件名称 创建数据连接 dataWarehouse createDataWarehouse
逻辑模型 逻辑模型是利用实体及相互之间的关系，准确描述业务规则的实体关系图。逻辑模型要保证业务所需数据结构的正确性及一致性，使用一系列标准的规则将各种对象的特征体现出来，并对各实体之间的关系进行准确定义。 同时，逻辑模型也为构建物理模型提供了有力的参考依据，并支持转换为物理模型，是最
o都为OBS表，数据存储在OBS中，分别用于存放原始告警表、告警统计报表。 图9 创建数据表 关键操作说明： 图9中的脚本开发区为临时调试区，关闭脚本页签后，开发区的内容将丢失。如需保留该SQL脚本，请单击，将脚本保存至指定的目录中。 关键参数说明： 数据连接：1中创建的DLI数据连接。
Manager的用户名和密码。从HDFS导出目录时，如果需要创建快照，这里配置的用户需要HDFS系统的管理员权限。 如果要创建MRS安全集群的数据连接，不能使用admin用户。因为admin用户是默认的管理页面用户，这个用户无法作为安全集群的认证用户来使用。您可以创建一个新的MRS用户
设置CDM集群的告警规则包括设置告警规则名称、监控对象、监控指标、告警阈值、监控周期和是否发送通知等参数。本节介绍了设置CDM集群告警规则的具体方法。 操作步骤 进入CDM主界面，选择“集群管理”，选择集群操作列中的“更多 > 查看监控指标”。 单击监控指标页面左上角的返回按钮，进
脏数据要写入的连接，目前只支持写入到OBS连接。 obs_link OBS桶 当“脏数据写入连接”为OBS类型的连接时，才显示该参数。 写入脏数据的OBS桶的名称。 dirtydata 脏数据目录 “是否写入脏数据”选择为“是”时，该参数才显示。 OBS上存储脏数据的目录，只有在
中转VPC及其子网 用于连通数据源和资源组网络的中间桥梁，本方案中需要使用云专线虚拟网关所配置的虚拟私有云和对应配置的子网。 查看方式： 登录云专线控制台，在左侧导航栏，选择“云专线 > 虚拟网关”，在列表中找到连通其他云所使用的虚拟网关，单击虚拟网关名称，查看关联的虚拟私有云和本端子网。 图2 查看虚拟网关
于节点的任务组。 “OBS”触发事件类型的参数（当前仅上海二区域支持） 说明： “OBS”触发事件类型的事件驱动调度，依赖于OBS的“事件通知 -> DIS通知”功能，由于OBS该功能在华为云暂未正式上线，因此当前暂时无法使用OBS触发事件类型。 OBS路径 选择要监听的OBS路
在创建表/文件迁移作业时，CDM支持在源端和目的端的以下参数中配置时间宏变量： 源端的源目录或文件 源端的表名 “通配符”过滤类型中的目录过滤器和文件过滤器 “时间过滤”中的起始时间和终止时间 分区过滤条件和Where子句 目的端的写入目录 目的端的表名 支持通过宏定义变量表示符“${}”来完成时间类型的宏定义，当
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
