检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
GaussDB主备版数据同步到Kafka 场景描述 本实践通过创建DRS同步任务,实现将源数据库GaussDB主备版的增量数据同步到目标端Kafka。 前提条件 拥有华为云实名认证账号。 账户余额大于等于0元。 已登录数据复制服务控制台。 服务列表 虚拟私有云 VPC 云数据库GaussDB主备版
支持的源和目标数据库 表1 支持的数据库 源数据库 目标数据库 RDS for MariaDB 10.5版本 本地自建MariaDB数据库 10.5版本 ECS自建MariaDB数据库 10.5版本 其他云上MariaDB数据库 10.5版本 支持的同步对象范围 在使用DRS进行同步时,不同类型的
原中状态,此时数据库不可读写,直至最后一个增量备份恢复完成后,数据库才能变成可用状态。 本小节将以一次完整的全量+增量迁移为示例,详细介绍如何实现最小化业务中断的数据库迁移。 迁移示意图 图1 全量+增量迁移 迁移流程图 图2 流程图 首次进行全量迁移 导出全量备份文件,具体操作请参见导出数据库备份文件。
除)不会同步到目标库。 操作步骤 本小节以GaussDB(for MySQL)到GaussDB(for MySQL)的实时同步为示例,介绍如何使用数据复制服务配置实时同步任务。 在“实时同步管理”页面,单击“创建同步任务”。 在“同步实例”页面,填选区域、项目、任务名称、描述、同步实例信息,单击“开始创建”。
映射功能进行修改。 多对一同步:如果需要进行库、schema、表的多对一同步,那么可以使用DRS提供的对象名映射功能实现。 本小节主要介绍如何在实时同步任务配置过程中,使用对象名映射功能,该功能的映射关系详情可参见查看同步映射章节。 使用须知 不支持库名、表名带有换行符的对象进行映射。
将MySQL同步到CSS/ES 支持的源和目标数据库 表1 支持的数据库 源数据库 目标数据库 本地自建MySQL数据库 5.5、5.6、5.7、8.0版本 ECS自建MySQL数据库 5.5、5.6、5.7、8.0版本 ElasticSearch 5.5、6.2、6.5、7.1、7.6、7.9、7.10版本
源数据库 目标数据库 GaussDB主备版 本地自建数据库(PostgreSQL 9.5、9.6、10、11、12、13、14、15版本) ECS自建数据库(PostgreSQL 9.5、9.6、10、11、12、13、14、15版本) 目前仅支持白名单用户使用。 支持的同步对象范围
在磁盘空间允许的情况下,建议源数据库Oplog保存时间越长越好,建议为3天。 - Balancer关闭 如果迁移任务是源数据集群的增量,则源数据必须关闭Balancer。 详见如何关闭集合均衡器Balancer。 孤儿文档检查 如果是源数据为集群的全量+增量迁移任务,则源数据库必须关闭Balancer并清理孤儿文档。
支持的源和目标数据库 表1 支持的数据库 源数据库 目标数据库 RDS for MySQL(5.5、5.6、5.7、8.0版本) 本地自建数据库 ECS自建数据库 使用建议 DRS任务启动和全量数据同步阶段,请不要在源数据库执行DDL操作,否则可能导致任务异常。 为保证同步前后数据一致性,确保同步期间目标数据库无业务写入。
源数据库 目标数据库 GaussDB分布式版 本地自建数据库(PostgreSQL 9.5、9.6、10、11、12、13、14、15版本) ECS自建数据库(PostgreSQL 9.5、9.6、10、11、12、13、14、15版本) 目前仅支持白名单用户使用。 支持的同步对象范围
将MySQL同步到Kafka 支持的源和目标数据库 表1 支持的数据库 源数据库 目标数据库 本地自建MySQL数据库 ECS自建MySQL数据库 Kafka 使用建议 DRS任务启动和全量数据同步阶段,请不要在源数据库执行DDL操作,否则可能导致任务异常。 为保证同步前后数据一
操作须知 不建议在数据库中使用非精确数值类型做主键,该特性影响 DRS 增量场景下对 UPDATE、DELETE语句的同步。 不支持ARM虚拟机环境。 如果无主键表中包含LOB、LONG等大字段,增量同步阶段存在大字段数据不一致的可能性。 如果源库和目标库字符集不一致,如源库是GB
操作须知 不建议在数据库中使用非精确数值类型做主键,该特性影响 DRS 增量场景下对 UPDATE、DELETE语句的同步。 不支持ARM虚拟机环境。 如果无主键表中包含LOB、LONG等大字段,增量同步阶段存在大字段数据不一致的可能性。 如果源库和目标库字符集不一致,如源库是GB
表1 支持的数据库 源数据库 目标数据库 本地自建数据库(PostgreSQL 9.4、9.5、9.6、10、11、12、13、14版本) ECS自建数据库(PostgreSQL 9.4、9.5、9.6、10、11、12、13、14版本) Kafka 0.11及以上版本 支持的同步对象范围
将DDM同步到Oracle 支持的源和目标数据库 表1 支持的数据库 源数据库 目标数据库 DDM实例 本地自建数据库 ECS自建数据库 使用须知 在创建同步任务前,请务必阅读以下使用须知。 建议创建单独用于DRS任务连接的数据库账号,避免因为数据库账号密码修改,导致的任务连接失败。
表1 支持的数据库 源数据库 目标数据库 本地自建数据库(PostgreSQL 9.4、9.5、9.6、10、11、12、13、14版本) ECS自建数据库(PostgreSQL 9.4、9.5、9.6、10、11、12、13、14版本) GaussDB分布式版 目前仅支持白名单用户使用。
源数据库 目标数据库 GaussDB分布式版 本地自建数据库(PostgreSQL 9.5、9.6、10、11、12、13、14、15版本) ECS自建数据库(PostgreSQL 9.5、9.6、10、11、12、13、14、15版本) 目前仅支持白名单用户使用。 支持的同步对象范围
将MariaDB同步到MariaDB 支持的源和目标数据库 表1 支持的数据库 源数据库 目标数据库 本地自建MariaDB数据库 10.3、10.4、10.5版本 ECS自建MariaDB数据库 10.3、10.4、10.5版本 其他云上MariaDB数据库 10.3、10.4、10.5版本 RDS for
支持的源和目标数据库 表1 支持的数据库 源数据库 目标数据库 GaussDB(for MySQL)主备实例 本地自建MySQL数据库 ECS自建MySQL数据库 其他云上MySQL数据库 RDS for MySQL 使用须知 在创建同步任务前,请务必阅读以下使用须知。 建议创建
源数据库 目标数据库 GaussDB主备版 本地自建数据库(PostgreSQL 9.5、9.6、10、11、12、13、14、15版本) ECS自建数据库(PostgreSQL 9.5、9.6、10、11、12、13、14、15版本) 目前仅支持白名单用户使用。 支持的同步对象范围