检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
查看任务详情 实时同步任务的配置信息,包括任务信息、同步实例信息和同步信息。同步任务创建成功后,可查看任务详细信息 。 前提条件 已登录数据复制服务控制台。 操作步骤 任务列表中,仅展示当前登录用户所创建的全部任务,同一租户下的不同用户之间的任务不可见。 在“实时同步管理”界面,选择指定的同步任务,单击任务名称。
传统数据库需要自购并安装服务器、系统、数据库等软件,运维成本高、难度大。 传统数据库性能瓶颈问题,复杂查询性能较差。 如何不中断业务并且平滑的实现数据同步。 迁移原理 本次实践中UGO负责异构数据库结构对象迁移,DRS仅同步数据,原理如下: 使用UGO先完成基本对象的同步。 DRS进行全量同步,进入增量阶段后暂停任务。
双向同步 MySQL到MySQL双向同步
为确保同步实例创建成功,仅显示已经开启DHCP的子网。 同步模式 DRS任务支持的同步模式。DRS全量、增量底层实现原理可参考产品架构和功能原理。 全量:该模式为数据库一次性同步,适用于可中断业务的数据库同步场景,全量同步将用户选择的数据库对象和数据一次性同步至目标端数据库。 指定公网IP
确认同步执行结果 确认同步结果可参考如下两种方式: DRS会针对同步对象、数据等维度进行对比,从而给出同步结果,详情参见在DRS管理控制台查看同步结果。 直接登录数据库查看库、表、数据是否同步完成。手工确认数据同步情况,详情参见在DDM管理控制台查看同步结果。 在DRS管理控制台查看同步结果
任务创建成功之后,且完成数据库对象选择后再调用启动任务接口。详情可参考任务创建流程。 每张表仅支持添加一个校验规则。 Oracle为源库的数据过滤每次最多支持20000张表,MySQL为源库的数据过滤每次最多支持10000张表。 过滤条件不支持使用某种数据库引擎特有的packege、函数、变量、常量等写法,须使用通用SQL标准。
Kafka认证方式。 目标数据库的用户名和密码将在同步过程中被加密暂存到数据库和同步实例主机上,待该任务删除后会永久清除。 在“设置同步”页面,选择启动位点和同步对象,单击“下一步”。 图7 同步模式 表9 同步对象 参数 描述 DML同步 选择需要同步的DML操作,默认都勾选。
查看同步日志 同步日志记录了实时同步过程中的信息,包含告警、错误和提示等类型的信息。实时同步过程中,可以通过查看同步日志信息,帮助您分析系统中存在的问题。 前提条件 已登录数据复制服务控制台。 操作步骤 在“实时同步管理”界面,选择指定的同步任务,单击任务名称。 在“同步日志”页签,查看当前同步任务的日志。
字符集不兼容导致数据乱码或者同步失败 背景 当源数据库和目标数据库字符集不兼容时,可能导致 部分数据乱码。 数据同步不一致。 目标库写入失败。 解决方案 针对这种情况,建议先修改目标库字符集后再进行同步。若同步任务已经报错,请修改目标库字符集后再重置任务进行同步。 父主题: 实时同步
单击“下一步”,仔细阅读提示内容后,单击“同意,并继续”。 设置同步。 在源库选择需要同步的数据库和表。本次实践中选择“test”中所有的表。 选择完成后,可以设置同步后是否重新命名库名和表名。 单击“下一步”。 高级设置:全量设置中“同步对象类型”仅勾选“同步数据”。 数据加工(可选,根据实际需求设置)。
查看异常数据 同步过程中可能因数据冲突、数据加工、异构类型转化、对象缺失等因素导致数据异常,您可以通过“异常数据”页签查看,以帮助异常写入的排查。 目前仅DDM->GaussDB(DWS)、DDM->Oracle、Oracle->GaussDB(DWS)、Oracle->RDS for
则无法创建同步任务。 数据类型不兼容时,可能引起同步失败。 源数据库中存在主键重复的数据时,直接同步将导致目标库数据比源库少,请务必检查并订正数据后启动同步。 源库的表如果包含系统列_ddm_lock、_slot,该列下的数据在全量、增量同步过程中都会被过滤,导致数据丢失。 支持
该冲突策略特指增量同步中的冲突处理策略,全量阶段的冲突默认忽略。冲突策略目前支持如下形式: 忽略 当同步数据与目标数据库已有数据冲突时(主键/唯一键存在重复等),将跳过冲突数据,继续进行后续同步。选择忽略可能导致源库与目标库数据不一致。 覆盖 当同步数据与目标数据库已有数据冲突时(主键
单击管理控制台左上角的,选择区域“华南-广州”。 单击左侧的服务列表图标,选择“数据库 > 云数据库 RDS”。 单击“购买数据库实例”。 配置实例名称和实例基本信息。 选择实例规格。 选择实例所属的VPC和安全组、配置数据库端口。 VPC和安全组已在创建VPC和安全组中准备好。 配置实例密码和参数模板等信息。
实时同步管理 批量数据加工 批量设置同步策略 高级设置 父主题: API v3(不再推广)
例,则无法创建同步任务。 数据类型不兼容时,可能引起同步失败。 源数据库中存在主键重复的数据时, 直接同步将导致目标库数据比源库少, 请务必检查并订正数据后启动同步。 源库的表如果包含系统列_ddm_lock、_slot,该列下的数据在同步过程中会被过滤,导致数据丢失。 任务创建
“全量”: 该模式为数据库一次性同步,适用于可中断业务的数据库同步场景,全量同步将非系统数据库的全部数据库对象和数据一次性同步至目标端数据库。 “增量”: 增量同步通过解析日志等技术,将源端产生的增量数据同步至目标端。 说明: 选择“全量+增量”同步模式,增量同步可以在全量同步完成的基础上
VPC 云数据库 GaussDB 数据复制服务 DRS 数据管理服务 DAS 使用说明 本实践的资源规划仅作为演示,实际业务场景资源以用户实际需求为准。 本实践端到端的数据为测试数据,仅供参考。 全量同步可以实现数据迁移;增量同步可以实现实时同步源端和目标端两个库之间的数据。 前提条件
增量同步阶段通过解析日志等技术,将源端和目标端数据库保持数据持续一致。 说明: 选择“全量+增量”同步模式,增量同步可以在全量同步完成的基础上实现数据的持续同步,无需中断业务,实现同步过程中源业务和数据库继续对外提供访问。 是否开启Binlog快速清理 选择是否开启目标数据库实例
过全量同步过程完成目标端数据库的初始化后,增量同步阶段通过解析日志等技术,将源端和目标端数据库保持数据持续一致。 说明: 选择“全量+增量”同步模式,增量同步可以在全量同步完成的基础上实现数据的持续同步,无需中断业务,实现同步过程中源业务和数据库继续对外提供访问。 源数据库实例类型