检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
数据管理 数据管理流程 新建数据连接 新建数据库 （可选）新建数据库模式 新建数据表 父主题： 数据开发
开发脚本 开发SQL脚本 开发Shell脚本 开发Python脚本 父主题： 脚本开发
（可选）管理作业 复制作业 复制名称和重命名作业 移动作业/作业目录 导出导入作业 批量配置作业 删除作业 解锁作业 查看作业依赖关系图 转移作业责任人 批量解锁 前往监控 添加通知配置 父主题： 作业开发
脚本开发 脚本开发流程 新建脚本 开发脚本 提交版本 发布脚本任务 （可选）管理脚本 父主题： 数据开发
使用教程 概览 DRS任务切换到实时Migration作业配置 MySQL同步到MRS Hudi作业配置 MySQL同步到DWS作业配置 MySQL同步到Kafka作业配置 DMS Kafka同步到OBS作业配置 Apache Kafka同步到MRS Kafka作业配置 SQLServer同步到MRS
配置OBS源端参数 表1 源端为OBS时的作业参数 参数类型 参数名 说明 取值样例 基本参数 桶名 待迁移数据所在的桶名。 BUCKET_2 文件格式 传输数据时使用的格式。 CSV格式：以CSV格式解析源文件，用于迁移文件到数据表的场景。 JSON格式：以JSON格式解析源文
已开通数据集成CDM，并创建CDM集群，为数据开发模块提供数据开发模块与MRS通信的代理。 CDM集群创建时，需要注意：虚拟私有云、子网、安全组与MRS集群保持一致，确保网络互通。 建立Hive的数据连接 开发Hive SQL前，我们需要在“管理中心 > 数据连接”模块中建立一个到MRS Hive的连接，数据连
单位：分钟。 60 等待时间 当配置为60时，如果消费者60s内从Kafka拉取数据返回一直为空（一般是已经读完主题中的全部数据，也可能是网络或者Kafka集群可用性原因），则立即停止任务，否则持续重试读取数据。单位：秒。 60 消费组ID 用户指定消费组ID。 如果是从DMS
的点数据集和边数据集生成元数据。建议创建MRS集群时，相关网络参数与DataArts Studio实例中的CDM集群的所在区域、虚拟私有云、子网、安全组保持一致，默认内网互通，否则还需手动打通MRS集群与CDM集群的网络。二者的企业项目也应保持一致。 由于创建MRS集群时仅支持自
0/12~19 192.168.0.0~192.168.0.0/16 ~19 说明： 为了后续使用对等连接打通网络，这里需设置与源端、目的端集群或实例不重叠的网段。如果重叠会导致网络不通。 受CCE底层逻辑限制，网段掩码最高为19位，20位之后不可选。 折扣额度(小时) 折扣套餐是按月
API访问权限，用户无法通过其他接口（如SSH）访问实例。这种方式保证了CDM用户间的隔离，避免数据泄漏，同时保证VPC内不同云服务间数据迁移时的传输安全。用户还可以使用VPN网络将本地数据中心的数据迁移到云服务，具有高度的安全性。 CDM数据迁移以抽取-写入模式进行。CDM首先从源端抽取数据然后将数据写入到目的端，
划线，不能以下划线开头，且长度不能超过100个字符。 适用组件 是 选择此连接适用的组件。勾选组件后，才能在相应组件内使用本连接。 基础与网络连通配置 主机地址 是 Linux操作系统主机的IP地址。 请参考查看云服务器详细信息获取。 绑定Agent 是 选择CDM集群，CDM集
新冠疫情数据治理思考 中共中央政治局常务委员会2020年2月3日召开会议强调：这次疫情是对我国治理体系和能力的一次大考。全民抗疫的过程中，缺乏有效数据支持就是缺乏对于疫情的快速响应机制、缺乏对于医疗资源合理调配的能力。 通过数据治理，我们可以构建开放通用的数据采集接口，提高数据采
HD和Apache Hadoop数据源在用户本地数据中心部署时，由于读写Hadoop文件需要访问集群的所有节点，需要为每个节点都放通网络访问。 推荐使用云专线服务，解决网络访问的同时，还可以提升迁移速度。 数据仓库服务(DWS)数据源约束 DWS主键或表只有一个字段时，要求字段类型必须是如下
当源端数据为OBS类型时，支持的目的端数据类型为DLI、DWS。 须知： DLI到DWS端的数据转换： 因为数据开发模块调用DWS的集群时，需要走网络代理。所以导入数据到DWS时，需要提前先在数据开发模块中创建DWS的数据连接。 DLI导入数据到DWS时，DWS的表需要先创建好。 DLI
DWS集群与DataArts Studio实例网络互通，DWS集群需满足如下要求： DataArts Studio实例（指DataArts Studio实例中的CDM集群）与DWS集群处于不同区域的情况下，需要通过公网或者专线打通网络。 DataArts Studio实例（指DataArts
心运行环境等基础设施，数据服务会为您准备好计算资源，并支持弹性扩展，零运维成本。 图6 数据服务架构图 数据安全：全方位安全保障 网络安全 基于网络隔离、安全组规则以及一系列安全加固项，实现租户隔离和访问权限控制，保护系统和用户的隐私及数据安全。 用户权限策略 基于角色的访问控制
无法连接FTP服务器。原因：%s。 可能是由于网络不通、安全组或防火墙规则未放行、FTP主机名无法解析、FTP用户名密码错误等原因。若排除上述原因后仍无法解决，请联系客服或技术支持人员协助解决。 Cdm.0700 无法连接SFTP服务器。原因：%s。 可能是由于网络不通、安全组或防火墙规则未放行
和密码。 如果Oracle数据库是在本地数据中心或第三方云上，需要确保Oracle可通过公网IP访问，或者已经建立好了企业内部数据中心到华为云的VPN通道或专线。 已在CDM集群的“作业管理 > 连接管理 > 驱动管理”页面，上传了Oracle数据库驱动。 创建CDM集群并绑定EIP
RestClient数据连接用户名，X-Client-Secret-Key: RestClient数据连接密码} 的键值对方式添加到请求头中。 *代理集群名称 选择网络代理的CDM集群。 配置完成后，单击连通性测试。连通性测试会将外部接口信息封装，转发给CDM集群，由CDM集群使用https发送请求到外部加密接口，通过外部响应值来判断连通性。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
