已找到以下 311 条记录
AI智能搜索
产品选择
云数据迁移 CDM
没有找到结果,请重新输入
产品选择
云数据迁移 CDM
在搜索结果页开启AI智能搜索
开启
产品选择
没有找到结果,请重新输入
  • 作业任务参数说明 - 云数据迁移 CDM

    抽取并发数:可设置同时执行的抽取任务数。 是否写入脏数据:如果需要将作业执行过程中处理失败数据、或者被清洗过滤掉数据写入OBS中,以便后面查看,可通过该参数配置,写入脏数据前需要先配置好OBS连接。 作业运行完是否删除:可选择是否自动删除作业。 JSON样例 "driver-config-values": {

  • 定时任务失败,检查连接器连接存在问题 - 云数据迁移 CDM

    “请检查IP、主机名、端口填写是否正确,检查网络安全组和防火墙配置是否正确,参考数据库返回消息进行定位。” 故障分析 查询集群信息,获取公网IP,从CDM集群curl源端数据库地址,如下所示。 从结果看考虑是CDM集群自身问题。通过EIP查询对应公网IP绑定情况是未绑定。 建议先解除绑定,再绑定后问题解决。

  • OBS连接 - 云数据迁移 CDM

    String OBS服务器终端节点(Endpoint)。 linkConfig.port 是 String 数据传输协议端口,https是443,http是80。 linkConfig.accessKey 是 String 访问标识(AK)。建议在配置文件或者环境变量中密文存放,使用时解密,确保安全。

  • 如何使用Java调用CDMRest API创建数据迁移作业? - 云数据迁移 CDM

    如何使用Java调用CDMRest API创建数据迁移作业? CDM提供了Rest API,可以通过程序调用实现自动化作业创建或执行控制。 这里以CDM迁移MySQL数据库表city1数据到DWS表city2为例,介绍如何使用Java调用CDM服务REST API创建、启动、查询、删除该CDM作业。

  • 通过数据开发实现数据增量迁移 - 云数据迁移 CDM

    创建CDM作业节点配置完后,还需要在后面添加运行CDM作业REST节点,具体请参见《云数据迁移API参考》中“启动作业”章节。配置RestAPI节点属性如下 : 节点名称:运行作业。 URL地址:其中project_id、cluster_id和2. 配置“创建作业”节点中保持一

  • 正则表达式分隔半结构化文本 - 云数据迁移 CDM

    ”必须选择“CSV格式”。 图1 正则表达式参数 在迁移CSV格式文件时,CDM支持使用正则表达式分隔字段,并按照解析后结果写入目的端。正则表达式语法请参考对应相关资料,这里举例下面几种日志文件正则表达式写法: Log4J日志 Log4J审计日志 Tomcat日志 Django日志

  • 正则表达式分隔半结构化文本 - 云数据迁移 CDM

    ”必须选择“CSV格式”。 图1 正则表达式参数 在迁移CSV格式文件时,CDM支持使用正则表达式分隔字段,并按照解析后结果写入目的端。正则表达式语法请参考对应相关资料,这里举例下面几种日志文件正则表达式写法: Log4J日志 Log4J审计日志 Tomcat日志 Django日志

  • CDM有哪些优势? - 云数据迁移 CDM

    并行化处理技术,使用CDM迁移数据优势如表1所示。 表1 CDM优势 优势项 用户自行开发 CDM 易使用 自行准备服务器资源,安装配置必要软件并进行配置,等待时间长。 程序在读写两端会根据数据源类型,使用不同访问接口,一般是数据源提供对外接口,例如JDBC、原生API等

  • 产品优势 - 云数据迁移 CDM

    据再写入目的端,相对这样传统做法,CDM优势如表1所示。 表1 CDM优势 优势项 用户自行开发 CDM 易使用 自行准备服务器资源,安装配置必要软件并进行配置,等待时间长。 程序在读写两端会根据数据源类型,使用不同访问接口。一般是数据源提供对外接口,例如JDBC、原生

  • 入门实践 - 云数据迁移 CDM

    据自身业务需求使用CDM提供一系列常用实践。 表1 常用最佳实践 实践 描述 使用教程 创建MRS Hive连接器 MRS Hive连接适用于MapReduce服务,本最佳实践为您介绍如何创建MRS Hive连接器。 MySQL数据迁移到OBS CDM支持表到OBS迁移,本

  • 基本概念 - 云数据迁移 CDM

    作业配置中指定。 字段映射 在创建作业过程中,尤其是异构数据源之间迁移作业,一般需要配置源端和目的端数据源之间对应关系,例如字段对应、字段类型对应,这个过程在CDM中称为字段映射。 账号 当您首次登录云时注册账号,该账号是您云资源归属、资源使用计费主体,对其所拥有的资

  • 更新管理 - 云数据迁移 CDM

    化漏洞(CNVD-2022-40233)等,如发现服务模块涉及漏洞影响,会迅速通过官方解决方案升级现网更新漏洞。 更新配置 CDM云服务通过版本更新升级更新配置。 父主题: 安全

  • 应用示例 - 云数据迁移 CDM

    BYTES_WRITTEN:表示写入字节数。 BYTES_READ:表示读取字节数。 TOTAL_FILES:表示总文件数。 FILES_WRITTEN:表示写入文件数。 FILES_READ:表示读取文件数。 ROWS_WRITTEN:表示写入成功行数。 ROWS_READ:表示读取成功行数。

  • 查询作业 - 云数据迁移 CDM

    ConfigValues object 目的连接参数配置。根据不同目的端有不同参数配置,具体可参考目的端作业参数说明下相应目的端参数配置。 to-link-name String 目的端连接名称,即为通过“创建连接”接口创建连接对应连接名。 driver-config-values

  • CDM迁移性能如何? - 云数据迁移 CDM

    CDM迁移性能如何? 单个cdm.large规格实例理论上可以支持1TB~8TB/天数据迁移,实际传输速率受公网带宽、集群规格、文件读写速度、作业并发数设置、磁盘读写性能等因素影响。更多详情请参见性能白皮书。 父主题: 通用类

  • 场景介绍 - 云数据迁移 CDM

    本章节介绍云数据迁移(Cloud Data Migration,以下简称CDM)基础使用方法,通过CDM迁移RDS for MySQL数据到数据仓库服务DWS具体操作,帮助您了解、熟悉CDM服务,具体场景如图1所示。 图1 MySQL迁移到DWS CDM基本使用流程如下: 创建CDM集群 创建连接 创建并执行作业

  • 指定集群创建作业 - 云数据迁移 CDM

    ConfigValues object 目的连接参数配置。根据不同目的端有不同参数配置,具体可参考目的端作业参数说明下相应目的端参数配置。 to-link-name 是 String 目的端连接名称,即为通过“创建连接”接口创建连接对应连接名。 driver-config-values

  • 执行Postgresql-to-Hive迁移作业报错“Error occurs during loader run” - 云数据迁移 CDM

    403”考虑是Hive同步表到OBS目录报错。用户配置连接器时候,没有打开OBS开关。 检查连接器配置,发现没有打开开关,参数含义是“是否支持OBS存储,如果Hive表数据存储在OBS,需要打开此开关”。 解决方案 修改连接配置,打开Hive连接中OBS开关,重新输入密码。 父主题: 故障处理类

  • 创建CDM集群 - 云数据迁移 CDM

    能正常通信。用户可以根据CDM迁移数据源端、目的端所处网络进行选择: 如果CDM集群与待连接数据源所属不同VPC,或者待连接为本地数据源时,CDM集群需要绑定EIP,通过公网通信。 如果待连接数据源为云上服务,则推荐CDM集群网络配置与该云服务一致,此时CDM集群不用绑定EIP,通过内网通信。

  • 性能调优 - 云数据迁移 CDM

    图1 集群最大抽取并发数配置 作业抽取并发数配置原则如下: 迁移目的端为文件时,CDM不支持多并发,此时应配置为单进程抽取数据。 表中每行数据大小为1MB以下可以设置多并发抽取,超过1MB建议单线程抽取数据。 作业抽取并发数可参考集群最大抽取并发数配置,但不建议超过集群最大抽取并发数上限。