检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Avro格式 Avro格式的schema定义详情请参见record.rar。在实时同步到Kafka集群后,您需要根据schema定义进行数据解析。 JSON格式 MySQL、GaussDB(MySQL)到Kafka的JSON格式定义详情参考表2,DDS到Kafka的JSON格式定义
创建RDS for MySQL实例 本章节介绍创建RDS for MySQL实例,该实例选择和自建MySQL服务器相同的VPC和安全组。 进入购买云数据库RDS页面。 配置实例基本信息。选择区域“华东-上海一”。 图1 基本信息 选择实例规格,其他参数默认配置。 图2 实例规格 单击“立即购买”。
方案概述 本实践介绍在华为云弹性云服务器 ECS上构建社区版MySQL和创建GaussDB(for MySQL)实例,并使用数据复制服务DRS将本地MySQL数据库的数据迁移至GaussDB(for MySQL)。通过DRS提供的实时迁移任务,实现在数据库迁移过程中业务中断时间最小化。
GaussDB(for MySQL)到GaussDB(for MySQL)单主灾备 支持的源和目标数据库 表1 支持的数据库 业务数据库 灾备数据库 GaussDB(for MySQL)主备实例 GaussDB(for MySQL)主备实例 数据库账号权限要求 在使用DRS进行灾
概述 场景描述 本实践使用UGO语法迁移、DRS的实时同步功能将本地Oracle数据库实时同步至华为云GaussDB。通过全量+增量同步,实现源数据库Oracle和目标数据库GaussDB的数据迁移,最终业务割接至GaussDB。 解决问题 企业业务高速发展,传统数据库扩容性差,迫切需要分布式化改造。
监控安全风险 云监控服务为用户提供一个针对云数据库、云服务器等资源的立体化监控平台。使您全面了解云上的资源使用情况、业务的运行状况,并及时收到异常告警做出反应,保证业务顺畅运行。 DRS提供基于云监控服务的资源和操作监控能力,例如CPU使用率、网络吞吐量的等。通过设置数据复制服务
对于DRS的增量或者全量+增量任务,不支持部分他云只读实例的备库做源库进行数据迁移。DRS增量迁移是通过读取源数据库的原始增量日志数据(例如MySQL的Binlog)后解析转换进行 。 以MySQL的Binlog为例,部分他云只读MySQL备库的Binlog并不完整,会导致DRS无法进行增量数据同步。用户可使
手动配置信息 操作场景 目前从本地或虚拟机通过DRS备份迁移功能直接迁移到本云RDS for SQL Server实例上,在迁移完成后还需要针对Login账号,DBLink,AgentJOB,关键配置进行识别,并手动完成相关同步工作。 Login账号 Login账号即SQL Se
效果。 图1 实时灾备倒换 图2 双主灾备原理 防回环同步原理概述(DML) 从源库解析日志时,解析到的数据中可能包含某种标记,包含这种标记的数据是通过DRS写到源库的,应用写入的数据无标记,解析后过滤掉不符合标记条件的数据。 回放数据到目标库时,对要回放的数据打上特殊标记,这个标记会记录到数据库日志中。
再编辑操作如果删除或者新增了流量文件,需要在重置任务时勾选解析重置,再重新进行回放,可参考重置回放任务。 流量回放过程为并发执行,DDL语句和DML语句在同一个batch(10s)内,可能存在顺序打乱执行的情况。 解析阶段须知 解析文件选择完成后,不支持文件重命名操作。 回放阶段须知
录制回放 解析失败,提示OBS连接失败 父主题: 失败案例
本地MySQL同步到GaussDB分布式版 场景描述 本实践使用DRS的实时同步功能将本地MySQL数据库实时迁移至华为云GaussDB。通过全量+增量同步,实现源数据库MySQL和目标数据库GaussDB的数据长期同步。 解决问题 企业业务高速发展,传统数据库扩容性差,迫切需要分布式化改造。
DRS支持断点续传吗 针对数据库的迁移、同步场景,在迁移、同步过程中由于不可抗拒因素(例如网络波动)导致的任务失败,DRS通过记录当前解析和回放的位点(该位点同时也是数据库内部一致性的依据),下次从该位点开始回放的方式来实现断点续传,以确保数据的完整性。 增量阶段的迁移、同步,D
决问题后,可以通过续传功能继续进行回放。 对于以下状态的任务,可以通过续传功能继续进行回放。 任务失败 已暂停 如果因为非网络原因导致任务解析失败,系统默认进行三次自动续传,若三次续传后仍无法恢复,可手动进行续传。 如果因为网络原因导致的任务失败,系统自动续传,直到任务恢复。 前提条件
等待启动 已经下发了定时启动任务到回放实例上,等待回放实例启动任务。 启动中 正在启动回放任务。 启动失败 录制回放任务启动失败。 解析中 正在解析流量文件。 回放中 正在进行录制回放。 回放失败 流量数据回放到目标数据库失败。 回放完成 所选择的流量文件的SQL已经全部回放到了目标数据库。
再编辑操作如果删除或者新增了流量文件,需要在重置任务时勾选解析重置,再重新进行回放,可参考重置回放任务。 流量回放过程为并发执行,DDL语句和DML语句在同一个batch(10s)内,可能存在顺序打乱执行的情况。 解析阶段须知 解析文件选择完成后,不支持文件重命名操作。 回放阶段须知
再编辑操作如果删除或者新增了流量文件,需要在重置任务时勾选解析重置,再重新进行回放,可参考重置回放任务。 流量回放过程为并发执行,DDL语句和DML语句在同一个batch(10s)内,可能存在顺序打乱执行的情况。 解析阶段须知 解析文件选择完成后,不支持文件重命名操作。 回放阶段须知
再编辑操作如果删除或者新增了流量文件,需要在重置任务时勾选解析重置,再重新进行回放,可参考重置回放任务。 流量回放过程为并发执行,DDL语句和DML语句在同一个batch(10s)内,可能存在顺序打乱执行的情况。 解析阶段须知 解析文件选择完成后,不支持文件重命名操作。 回放阶段须知
再编辑操作如果删除或者新增了流量文件,需要在重置任务时勾选解析重置,再重新进行回放,可参考重置回放任务。 流量回放过程为并发执行,DDL语句和DML语句在同一个batch(10s)内,可能存在顺序打乱执行的情况。 解析阶段须知 解析文件选择完成后,不支持文件重命名操作。 回放阶段须知
终端节点 终端节点(Endpoint)即调用API的请求地址,不同服务不同区域的终端节点不同,您可以从地区和终端节点中查询服务的终端节点。 数据复制服务API当前支持的Region如表1和表2所示,请您根据业务需要选择对应区域的终端节点。 表1 数据复制服务v5 API当前支持的Region