检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
同步方案概览 实时同步是指在不同的系统之间,将数据通过同步技术从一个数据源拷贝到其他数据库,并保持一致,实现关键业务的数据实时流动。 实时同步不同于迁移,迁移是以整体数据库搬迁为目的,而实时同步是维持不同业务之间的数据持续性流动。 常用场景:实时分析,报表系统,数仓环境。 同步特
新建工单”,完成工单提交。 支持的数据库类型 实时同步支持的数据库、版本和同步模式可参考支持的数据库。 支持的网络方式 数据复制服务提供的实时同步功能支持通过多种网络方式进行实时同步,包括:VPC网络、VPN网络、专线网络和公网网络,在正式进行实时同步之前请参考表1了解网络类型的使用场景及准备工
为什么DRS不支持部分他云只读实例的备库做源库 对于DRS的增量或者全量+增量任务,不支持部分他云只读实例的备库做源库进行数据迁移。DRS增量迁移是通过读取源数据库的原始增量日志数据(例如MySQL的Binlog)后解析转换进行 。 以MySQL的Binlog为例,部分他云只读MySQL备库的Binlo
后,可以通过续传功能继续进行回放。 对于以下状态的任务,可以通过续传功能继续进行回放。 任务失败 已暂停 如果因为非网络原因导致任务解析失败,系统默认进行三次自动续传,若三次续传后仍无法恢复,可手动进行续传。 如果因为网络原因导致的任务失败,系统自动续传,直到任务恢复。 前提条件
在“对象选择”区域选择需要加工的对象。 图5 列加工 单击右侧已选对象的“编辑”。 在“编辑列”中,勾选需要映射的列,填写映射后的“新列名”。 图6 编辑列 列加工提供列级的查询、映射和过滤能力。 编辑列名后,目标数据库的列名为修改后的名称。 列映射名不能和原列名或已存在的映射名相同。 不支持库名、表名带有换行符的列进行映射。
DRS支持断点续传吗 针对数据库的迁移、同步场景,在迁移、同步过程中由于不可抗拒因素(例如网络波动)导致的任务失败,DRS通过记录当前解析和回放的位点(该位点同时也是数据库内部一致性的依据),下次从该位点开始回放的方式来实现断点续传,以确保数据的完整性。 增量阶段的迁移、同步,DRS会自动
触发器同步了这条数据到log表,此时binlog中会有两条数据,如下图,第一条就是业务插入user表的数据,第二条是触发器被触发,写入到log中的数据。 DRS同步数据的时候可能会出现以下情况: 如果先同步了插入的数据到目标库user表,这时候目标数据库的触发器被触发,目标库log表会自动写入,当同步第二条log表数
地主备倒换的效果。 图1 实时灾备倒换 图2 双主灾备原理 防回环同步原理概述(DML) 从源库解析日志时,解析到的数据中可能包含某种标记,包含这种标记的数据是通过DRS写到源库的,应用写入的数据无标记,解析后过滤掉不符合标记条件的数据。 回放数据到目标库时,对要回放的数据打上特殊标记,这个标记会记录到数据库日志中。
DRS任务分为全量、增量、全量+增量三种模式,不同链路支持的模式不同。 全量模式:该模式为数据库一次性迁移,适用于可中断业务的数据库迁移场景,全量迁移将非系统数据库的全部数据库对象和数据一次性迁移至目标端数据库。 增量模式:该模式通过解析日志等技术,将源端产生的增量数据持续迁移至目标端数据库。 全量
DB分布式进入增量校验状态后,对比服务会开始通过解析的该任务涉及的表的增量日志抽取数据,持续对比。如果用户想要对比其他表的同步状态,可以取消正在对比的任务,创建新的对比任务。 由于内容对比功能目前只支持带有主键的表,不支持内容对比的表可以使用行数对比功能。所以数据级对比功能需要结合业务场景,选用行数对比或者内容对比。
调用接口出错后,将不会返回结果数据。调用方可根据每个接口对应的错误码来定位错误原因。 当调用出错时,HTTP请求返回一个HTTP状态码。返回的消息体中是具体的错误编码及错误描述信息。 当您调用API时,如果遇到“APIGW”开头的错误码,请参见API网关错误码进行处理。 表1 v3接口错误码
X-Auth-Token 是 String 从IAM服务获取的用户Token。 用户Token也就是调用获取用户Token接口的响应值,该接口是唯一不需要认证的接口。 请求响应成功后在响应消息头中包含的“X-Subject-Token”的值即为Token值。 X-Language 否 String
号时,名称的长度请不要超过42个字符。 选择导入对象文件,具体步骤和说明可参考导入同步对象。 说明: 选择对象的时候支持对展开的库进行搜索,以便您快速选择需要的数据库对象。 如果有切换源数据库的操作或源库校验对象变化的情况,请在选择校验对象前单击右上角的,以确保待选择的对象为最新源数据库对象。
MySQL->Kafka的导入支持json、txt文件,以及包含json、txt的ZIP压缩包(ZIP压缩包中仅支持包含一个文件)。 TaurusDB->Kafka、 MySQL->Kafka导入的文件内容仅支持json格式, 可参考更新指定ID任务详情接口中的•更新租户指定ID任务对象信息示例。
录制回放任务启动失败。 解析中 正在解析流量文件。 回放中 正在进行录制回放。 回放失败 流量数据回放到目标数据库失败。 回放完成 所选择的流量文件的SQL已经全部回放到了目标数据库。 结束任务 释放该回放实例和资源。 结束任务失败 释放回放任务所使用的实例和资源失败。 已结束 回放任务所使用的实例释放成功。
源数据库连接账号 数据库的CONNECT权限,模式的USAGE权限,表的SELECT权限,序列的SELECT权限,系统表pg_catalog.pg_authid的select权限(用于同步用户的密码)。 数据库的CONNECT权限,模式的USAGE权限,表的SELECT权限,序列的SELECT权限,系统表pg_catalog
在MySQL暂时停止回答新请求之前的短时间内多少个请求可以被存在堆栈中。 和源保持一致 7 max_allowed_packet 4194304 (4MB) 67108864 (64MB) 限制Server接受的数据包大小 按默认值 8 max_error_count 64 1024 控制显示告警的个数 和源保持一致
保证数据的完整性和一致性。 第三阶段:增量数据迁移。全量任务结束后,增量迁移任务启动,此时会从全量开始的增量数据持续的解析转换和回放,直到追平当前的增量数据。 第四阶段:为了防止触发器、事件在迁移阶段对于数据的操作,在结束任务阶段再迁移触发器、事件。 全量数据迁移的底层模块主要原理:
入同步对象。 说明: 选择对象的时候支持对展开的库进行搜索,以便您快速选择需要的数据库对象。 如果有切换源数据库的操作或源库同步对象变化的情况,请在选择同步对象前单击右上角的,以确保待选择的对象为最新源数据库对象。 当对象名称包含空格时,名称前后的空格不显示,中间如有多个空格只显示一个空格。
2-导入同步对象 说明: 选择对象的时候支持对展开的库进行搜索,以便您快速选择需要的数据库对象。 如果有切换源数据库的操作或源库同步对象变化的情况,请在选择同步对象前单击右上角的,以确保待选择的对象为最新源数据库对象。 当对象名称包含空格时,名称前后的空格不显示,中间如有多个空格只显示一个空格。