检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
RDS for MySQL同步到Kafka 概述 资源和成本规划 操作流程 创建VPC和安全组 源端RDS for MySQL准备 目标端Kafka准备 创建DRS同步任务 确认同步任务执行结果 父主题: 实时同步
当界面显示“测试成功”时表示连接成功。 选择目标库所在VPC和子网,填写Kafka的IP地址和端口。 单击“测试连接”。 当界面显示“测试成功”时表示连接成功。 单击“下一步”。 选择同步信息、策略、消息格式和对象等,投递到Kafka的消息格式。 本次选择如下。 表1 同步设置 类别 设置 同步Topic策略
网络类型选择“公网网络”时可见,选择为DRS实例绑定的弹性公网IP。任务创建时,DRS将会自动绑定该弹性公网IP,等待任务结束后将自动解绑该弹性公网IP。指定公网IP数量需要与实例数量匹配。 公网网络迁移产生的数据传输费用收取标准请参见:弹性公网IP价格计算器。 可用区 图4 可用区 表7 任务可用区
数据订阅与MySQL到Kafka同步的区别 对比项 MySQL到Kafka同步 数据订阅 支持的源数据库 华为云RDS for MySQL 本地自建MySQL数据库 ECS自建MySQL数据库 其他云MySQL数据库 华为云RDS for MySQL 支持网络 支持公网网络、VPC网络、VPN、专线网络。
c3 TIMESTAMP(6)); 创建Kafka实例 本章节介绍创建Kafka实例。 登录华为云控制台。 单击管理控制台左上角的,选择区域。 单击左侧的服务列表图标,选择“应用中间件 > 分布式消息服务Kafka版”。 单击“购买Kafka实例”。 选择实例区域和可用区。 配置实例名称和实例规格等信息。
本实践通过创建DRS同步任务,实现将源数据库RDS for MySQL的增量数据同步到目标端Kafka,主要包含以下部分内容: 介绍如何在华为云创建RDS for MySQL实例。 介绍如何在华为云创建分布式消息服务Kafka。 介绍如何创建DRS同步任务。 前提条件 拥有华为云实名认证账号。 账户余额大于等于0元。
操作流程 创建RDS for MySQL实例,并且将RDS for MySQL增量同步到Kafka的主要任务流程如图1所示。 图1 流程图 父主题: RDS for MySQL同步到Kafka
DRS发送Kafka消息序列化方式是什么 DRS发送到Kafka的数据,key序列化器是org.apache.kafka.common.serialization.StringSerializer,value序列化器是org.apache.kafka.common.serialization
实际业务场景推荐选择主备RDS实例,此时建议将两个实例创建在不同的可用区,提升业务可靠性。 规格 通用型 4 vCPUs | 8GB - Kafka(目标库) Kafka实例名 kafka-drs 自定义,易理解可识别。 版本 2.3.0 - 可用区 可用区三 可选择1个或者3个及以上可用区。实际业务场
创建VPC和安全组 创建VPC和安全组,为创建RDS for MySQL和Kafka实例准备好网络资源和安全组。 创建VPC 登录华为云控制台。 单击管理控制台左上角的,选择区域“华南-广州”。 单击左侧的服务列表图标,选择“网络 > 虚拟私有云 VPC”。 进入虚拟私有云信息页面。
源端RDS for MySQL准备 创建RDS for MySQL实例 构造数据 父主题: RDS for MySQL同步到Kafka
可能原因 目标Kafka为多可用区的Kafka实例,在某个可用区故障后,Kafka客户端在生产或消费消息时,可能会报上述错误。 解决方案 检查并修复Kafka分区状态。 然后在任务列表中,单击任务对应操作列的“重置”,重新提交任务。 父主题: Oracle为源实时同步
'00:00:44','ddd'); 单击左侧的服务列表图标,选择“应用中间件 > 分布式消息服务Kafka版”。 在“Kafka专享版”页面,单击Kafka实例的名称。 选择“消息查询”页签,在Kafka对应的Topic中,查看接收到相应的JSON格式数据。 结束同步任务。 根据业务情况,
Explorer中调试该接口,支持自动认证鉴权。API Explorer可以自动生成SDK代码示例,并提供SDK代码示例调试功能。 接口约束 目前仅支持Oracle->GaussDB分布式、GaussDB(for MySQL)->Kafka、 MySQL->Kafka同步场景。 仅支持部分Region使用,详情参考终端节点。
Explorer中调试该接口,支持自动认证鉴权。API Explorer可以自动生成SDK代码示例,并提供SDK代码示例调试功能。 接口约束 目前仅支持Oracle->GaussDB分布式、GaussDB(for MySQL)->Kafka、 MySQL->Kafka同步场景。 仅支持部分Region使用,详情参考终端节点。
构造数据 登录华为云控制台。 单击管理控制台左上角的,选择区域“华南-广州”。 单击左侧的服务列表图标,选择“数据库 > 云数据库 RDS”。 选择RDS实例,单击实例后的“更多 > 登录”。 在弹出的对话框中输入密码后,单击“测试连接”检查。 连接成功后单击“登录”,登录RDS实例。
Explorer中调试该接口,支持自动认证鉴权。API Explorer可以自动生成SDK代码示例,并提供SDK代码示例调试功能。 接口约束 目前仅支持Oracle->GaussDB分布式、GaussDB(for MySQL)->Kafka、 MySQL->Kafka同步场景。 仅支持部分Region使用,详情参考终端节点。
创建RDS for MySQL实例 本章节介绍创建RDS for MySQL实例。 登录华为云控制台。 单击管理控制台左上角的,选择区域“华南-广州”。 单击左侧的服务列表图标,选择“数据库 > 云数据库 RDS”。 单击“购买数据库实例”。 配置实例名称和实例基本信息。 选择实例规格。
Explorer中调试该接口,支持自动认证鉴权。API Explorer可以自动生成SDK代码示例,并提供SDK代码示例调试功能。 接口约束 目前仅支持Oracle->GaussDB分布式、MySQL->Kafka、GaussDB(for MySQL)->Kafka同步场景。 仅支持部分Region使用,详情参考终端节点。
Explorer中调试该接口,支持自动认证鉴权。API Explorer可以自动生成SDK代码示例,并提供SDK代码示例调试功能。 接口约束 目前仅支持Oracle->GaussDB分布式、MySQL->Kafka、GaussDB(for MySQL)->Kafka同步场景。 调用该接口删除任务前,请确保任务处于已结束状态。