CDM (Cloud Data Migration)基于分布式计算框架,实现数据高效批量 迁移 ,支持包括关系 数据库 ,OLAP数据库,NoSQL数据库, 大数据 存储,文件存储等常用数据源。提供云上和云下端到端 数据迁移 解决方案,满足大数据场景下的各种数据迁移诉求。
与DRS区别,CDM迁移数据库是迁移表数据,不涉及索引、视图等,针对 数据库迁移 选择DRS工具。
产品功能
•表/文件/整库迁移支持批量迁移表或者文件,还支持同构/异构数据库之间整库迁移,一个作业即可迁移几百张表。
•增量数据迁移支持文件增量迁移、关系型数据库增量迁移、HBase/CloudTable增量迁移,以及使用Where条件配合时间变量函数实现增量数据迁移。
•事务模式迁移支持当CDM作业执行失败时,将数据回滚到作业开始之前的状态,自动清理目的表中的数据。
•字段转换支持去隐私、字符串操作、日期操作等常用字段的数据转换功能。
•文件加密在迁移文件到文件系统时,CDM支持对写入云端的文件进行加密。
•MD5校验一致性支持使用MD5校验,检查端到端文件的一致性,并输出校验结果。
•脏数据归档支持将迁移过程中处理失败的、被清洗过滤掉的、不符合字段转换或者不符合清洗规则的数据单独归档到脏数据日志中,便于用户查看。并支持设置脏数据比例阈值,来决定任务是否成功。