检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
by: Index: ***, Size: ***” 场景描述 全量或增量阶段,DRS迁移或同步任务报错,日志提示信息:service CAPTURER failed, cause by: Index: 8, Size: 7 可能原因 源库binlog_format格式没有设置ROW。
DRS任务创建后支持修改源或目标数据库吗 DRS在任务创建后、启动前的配置状态时,支持修改源或者目标数据库。 入云链路:支持修改源数据库,不支持修改目标数据库。目标数据库为创建任务时选择的实例,不支持更换,仅支持修改数据库连接信息(用户名和密码)。 出云链路:支持修改目标数据库信
之间的迁移。 用户需要通过专线网络建立云与数据中心的专线连接。 云专线相关操作,请参见《云专线快速入门》。 公网网络 适合将其他云下或其他平台的数据库迁移到目标数据库。 为了确保源数据库和目标数据库之间的网络互通,源数据库端和目标数据库端分别需要进行如下设置: 开启公网访问 源数
objects 全量调优参数。 详情请参见表5。 incre_capture Array of objects 增量抓取调优参数。 详情请参见表5 TuningParameterfull_sync、incre_capture、incre_apply和incre_relay字段数据结构说明。
以同步任务作为导向,依次进行同步进度观察、同步日志分析、同步数据一致性对比等多项操作。通过多项指标和数据的对比分析,可以帮助您实现不同业务系统间的数据实时同步。 一次完整的实时同步包含如下过程: 图1 实时同步流程 步骤一:创建同步任务。根据需要,选择源和目标数据库,创建同步任务。
实时同步 实时同步是指在不同的系统之间,将数据通过同步技术从一个数据源拷贝到其他数据库,并保持一致,实现关键业务的数据实时流动。实时同步不同于迁移,迁移是以整体数据库搬迁为目的,而实时同步是维持不同业务之间的数据持续性流动。 目前部分功能仅支持白名单用户使用,需要提交工单申请才能
创建实时同步任务 实时同步是指在不同的系统之间,将数据通过同步技术从一个数据源拷贝到其他数据库,并保持一致,实现关键业务的数据实时流动。 本文以本地MySQL同步到云上RDS for MySQL为例,帮助您使用DRS实时同步功能,通过通过创建公网网络类型的全量+增量同步任务,快速
克隆同步任务 DRS支持通过克隆功能,快速复制现有同步任务的配置。但是对于以下状态的任务,暂不支持进行克隆。 创建中 创建失败 配置 等待启动 启动中 删除 目前以下同步链路支持克隆功能: 入云 MySQL->MySQL MySQL->MariaDB MariaDB->MariaDB
table> TO <user>; 目标库使用gsloader等工具创建相关系统表(如 public.pgxc_copy_error_log,public.gs_copy_summary)时,DRS访问相关系统表需要有系统表的all privilege权限,详细信息可参考《GaussDB工具参考》。
暂停灾备任务 灾备时不可避免业务高峰期的情况下,如果流速模式仍不能满足需要,DRS提供对灾备中的任务进行暂停功能。 目前以下灾备链路支持暂停功能: MySQL->MySQL MySQL->TaurusDB TaurusDB>TaurusDB DDM->DDM 前提条件 已登录数据复制服务控制台。
table> TO <user>; 目标库使用gsloader等工具创建相关系统表(如 public.pgxc_copy_error_log,public.gs_copy_summary)时,DRS访问相关系统表需要有系统表的all privilege权限,详细信息可参考《GaussDB工具参考》。
重置同步位点 对于MySQL->GaussDB(DWS)的实时同步链路,DRS支持增量位点重置功能,可根据用户选择的重置位点时间,将同步任务调整到问题发生之前,重新同步。 约束限制 目前仅支持引擎为MySQL->GaussDB(DWS)的同步任务支持重置位点。 任务在增量阶段时,需要先暂停任务,再进行重置位点。
使用须知 同步对象范围 副本集:目前只支持集合(包括验证器,是否是固定集合),索引和视图的同步。 不支持同步系统库(如local、admin、config等)和系统集合,如果业务数据在系统库下,则需要先将业务数据移动到用户数据库下,可以使用renameCollection命令进行移出。 不支持视图的创建语句中有正则表达式。
停止的任务 STOP_JOB:oracle-GaussDB分布式:停止任务 CONTINUE_CAPTURE:oracle-GaussDB分布式:启动抓取 STOP_CAPTURE:oracle-GaussDB分布式:停止抓取 CONTINUE_APPLY:oracle-GaussDB分布式:启动回放
结束同步任务 业务系统和数据库切换至目标数据库后,可选择结束同步任务。对于需要恢复目标数据库或停止同步的任务,您可选择结束任务,避免源数据库的操作继续同步到目标数据库,造成数据覆盖问题。 如下状态下的任务可以结束: 创建中 配置 等待启动 全量同步 全量同步失败 增量同步 增量同步失败
Kafka消息格式 同步到Kafka集群中的数据以Avro、JSON和JSON-C格式存储。不同链路支持的数据格式可参考表1: 表1 支持的数据格式 数据流向 Avro JSON JSON-C MySQL->Kafka 支持 支持 支持 Oracle->Kafka 支持 支持 暂不支持
修改流速模式 流速模式支持限速和不限速,默认为不限速。DRS提供创建任务后修改流速模式功能,目前仅以下实时迁移链路支持该功能。 入云 MySQL->MySQL MySQL->TaurusDB MySQL->DDM MySQL分库分表->DDM MongoDB->DDS MongoDB->GeminiDB
灾备任务约束与限制 为保障数据灾备任务的正常运行,针对不同的链路,DRS在使用上存在一定的约束与限制。 MySQL到MySQL单主灾备 MySQL到TaurusDB单主灾备 DDM到DDM单主灾备 TaurusDB到TaurusDB单主灾备 MySQL到MySQL双主灾备 TaurusDB到TaurusDB双主灾备
GaussDB分布式版为源强制结束任务 本小节介绍GaussDB分布式版为源的增量、全量+增量同步链路在强制结束任务后如何清理源库可能残留的逻辑复制槽。 操作步骤 DRS使用的复制槽名可在DRS任务同步日志页面查看“create replication slot[复制槽名] successfully
GaussDB集中式版为源强制结束任务 本小节介绍GaussDB集中式版为源的增量、全量+增量同步链路在强制结束任务后如何清理源库可能残留的逻辑复制槽。 操作步骤 DRS使用的复制槽名可在DRS任务同步日志页面查看“create replication slot[复制槽名] successfully