检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
实时同步基本原理 图4 实时同步原理 实时同步功能实现源数据库和目标数据库的数据长期同步,主要用于OLTP到OLAP、OLTP到大数据组件的数据实时同步。全量和增量的数据同步和实时迁移的技术原理基本一致,但是基于不同的业务使用场景,两个功能还是有些差异。
Balancer的工作原理是:需要Balancer的数据块(Chunk)先复制到目标Shard,成功后再删除原Shard上的Chunk,来完成一次Chunk迁移,通过多次Chunk迁移来实现均衡。
实现原理 RDS跨Region容灾实现原理说明: 在两个数据中心独立部署RDS for MySQL实例,通过DRS服务将生产中心RDS for MySQL库中的数据同步到灾备中心RDS for MySQL库中,实现RDS for MySQL主实例和跨Region灾备实例之间的实时同步
DDM灾备任务源库填写说明 DRS支持DDM灾备任务的源端通过输入IP方式进行连接,如图1。DDM灾备的原理是源端和目标端DDM中的DN一一对应灾备,因此需要正确填写源端和目标端的DN的对应关系。关于DDM逻辑库和逻辑库下的DN实例说明可参考DDM产品文档。
原理上DRS采用JDBC连接,无需在用户的源数据库、目标数据库节点部署程序,只需用户的源数据库和目标数据库允许DRS实例节点通过所选择的网络访问和连接即可。
图1 实时灾备倒换 图2 双主灾备原理 防回环同步原理概述(DML) 从源库解析日志时,解析到的数据中可能包含某种标记,包含这种标记的数据是通过DRS写到源库的,应用写入的数据无标记,解析后过滤掉不符合标记条件的数据。
如何不中断业务并且平滑的实现数据迁移。 业务架构图 迁移原理 本次实践使用全量+增量同步功能,原理如下: 全量同步阶段,先进行结构迁移,例如表、主键、唯一键的迁移。 结构迁移完成后,启动增量数据抽取,以确保全量数据同步期间的增量数据完整的抽取到DRS实例。 启动全量迁移任务。
并行时顺序插入原理可参考图1。 图1 顺序插入 当并行后有非顺序插入数据时,如图2,当最后数据4插入时,会导致数据3、5叶子节点分裂,分裂后的叶子节点存在磁盘空余空间。
如何不中断业务并且平滑的实现数据同步。 迁移原理 本次实践中UGO负责异构数据库结构对象迁移,DRS仅同步数据,原理如下: 使用UGO先完成基本对象的同步。 DRS进行全量同步,进入增量阶段后暂停任务。 UGO进行普通索引同步。
SQL Server自身的工作原理是备份文件恢复到新的数据库后,非聚集索引表的索引信息将会失效需要立即重建。如果源数据库里存在大量非聚集索引表,备份迁移后请在目标库进行索引重建,以避免数据库未来使用中性能出现重大下降。
数据库新名称不能与源库中除本库以外的其它库同名。 在“信息确认”页面核对配置详情后,勾选协议,单击“下一步”。 SQL Server自身的工作原理是备份文件恢复到新的数据库后,非聚集索引表的索引信息将会失效需要立即重建。
数据复制服务提供的JAVA版本SDK支持的开发环境为JDK1.6以上版本,推荐使用JDK1.8版本。 网络类型 目前仅支持VPC网络。 SDK运行原理 SDK的拉取和确认消息是两个异步的线程,拉取按照事务顺序拉取,两个线程分别独立并且遵循因果序。
同步模式 DRS任务支持的同步模式,此处以“全量+增量”为示例。DRS全量、增量底层实现原理可参考产品架构和功能原理。 “全量+增量”: 该模式为数据持续性实时同步,通过全量过程完成目标端数据库的初始化后,增量同步阶段通过解析日志等技术,将源端和目标端数据保持数据持续一致。
内网安全组限制实例的安全访问规则,加强安全访问。 同步模式 DRS任务支持的同步模式,此处以“全量+增量”为示例。DRS全量、增量底层实现原理可参考产品架构和功能原理。
默认值为当前所选数据库实例所在子网,请选择有可用IP地址的子网。为确保同步实例创建成功,仅显示已经开启DHCP的子网。 同步模式 DRS任务支持的同步模式。DRS增量底层实现原理可参考产品架构和功能原理。 增量。 增量同步通过解析日志等技术,将源端产生的增量数据同步至目标端。
同步模式 DRS任务支持的同步模式,此处以“全量+增量”为示例。DRS全量、增量底层实现原理可参考产品架构和功能原理。 “全量+增量”: 该模式为数据持续性实时同步,通过全量过程完成目标端数据库的初始化后,增量同步阶段通过解析日志等技术,将源端和目标端数据保持数据持续一致。
如何不中断业务并且平滑的实现数据迁移。 业务架构图 迁移原理 本次实践使用全量+增量同步功能,原理如下: 全量同步阶段,先进行结构迁移,例如表、主键、唯一键的迁移。 结构迁移完成后,启动增量数据抽取,以确保全量数据同步期间的增量数据完整的抽取到DRS实例。 启动全量迁移任务。
默认值为当前所选数据库实例所在子网,请选择有可用IP地址的子网。为确保同步实例创建成功,仅显示已经开启DHCP的子网。 同步模式 DRS任务支持的同步模式。DRS增量底层实现原理可参考产品架构和功能原理。 增量 增量同步通过解析日志等技术,将源端产生的增量数据同步至目标端。
内网安全组限制实例的安全访问规则,加强安全访问。 同步模式 DRS任务支持的同步模式,此处以“全量+增量”为示例。DRS全量、增量底层实现原理可参考产品架构和功能原理。
binlog_row_image参数是否为FULL MySQL迁移、同步时,源数据库的binlog_row_image参数必须设置为FULL,否则会导致迁移失败。 不通过原因 源数据库的binlog_row_image参数不为FULL。