检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Kafka同步Kafka 当前仅支持华南-广州、华东-上海一。 前提条件 业务有自己的源Kafka和目标Kafka。 源Kafka和目标Kafka实例支持的版本:目前支持2.7及以上,后续支持版本会持续更新。 源Kafka和目标Kafka实例的规格、存储空间需保持一致。 确保vpc、子网、kafka等资源充足。
“更多配置”中配置如下参数: Kafka SASL_SSL:开启 kafka安全协议:SASL_SSL SASL PLAIN 机制:开启 用户名:kafka-name 密码:填写密码 默认密码:确认密码 单击“立即购买”,完成Kafka实例的创建。 创建Topic 登录分布式消息服务Kafka版控制台,选择Kafka实例所在的区域。
检查事件流作业所在运行时机器是否能正常连接到源端Kafka实例。 原因一:无法连接到源端Kafka实例,请检查网络配置是否正确。 解决方案: 进入Kafka的控制台页面,检查源端实例状态是否正常。 检查事件流集群创建页面中配置的vpc和子网是否与源端Kafka实例网络畅通。 原因二:无法连接源端Kafka实例,请检查填写的实例信息是否正确。
如何获取分布式消息服务Kafka实例的SASL证书地址? 用户在创建事件流,配置事件源为分布式消息服务Kafka版实例时,当Kafka实例开启SASL SSL时,需要输入SASL证书地址。 本章节介绍如何获取Kafka实例的SASL证书地址。 操作步骤 下载Kafka实例的SSL证书。
配置如下目标连接参数。更多创建Kafka目标连接参数的详细介绍,请参考创建目标连接。 类型:选择“分布式消息服务 Kafka版” 名称:kafka-connect 实例:选择“eg-kafka” SASL_SSL 认证机制:SCRAM-SHA-512 用户名:kafka实例的用户名“kafka-name”,
分布式消息服务Kafka版 本章节介绍在创建事件流时,如何配置分布式消息服务Kafka版实例为事件源。 前提条件 已在分布式消息服务Kafka版中购买Kafka实例,详情请参见购买Kafka实例。 Kafka实例中的安全组在“入方向规则”中放开Kafka实例的子网网段和端口,详情
定”。 请参考配置分布式消息服务 Kafka版,配置事件源。 配置事件目标。 单击“事件目标”,右侧弹出“事件目标”弹窗。 目标服务选择“分布式消息服务 Kafka版”。 设置事件目标参数。 图1 分布式消息服务 Kafka版 表1 分布式消息服务 Kafka版参数说明 参数名称
基于Serverless版事件流实现Kafka实例之间的数据同步 本文介绍如何应用事件网格EventGrid的Serverless版事件流功能实现分布式消息服务Kafka版实例间的数据同步。 当前事件网格服务仅支持华北-北京四、华北-乌兰察布一、华东-上海一、华东-上海二、华南-广州、亚太-新加坡、拉美-墨西哥城二。
左上角单击,配置事件流名称和描述,完成后单击“确定”。 配置Kafka事件源。 单击“事件源”,右侧弹出“事件源”弹窗。 事件提供方选择“分布式消息服务 Kafka版”。 设置事件源参数。 图1 事件源-Kafka 表1 配置参数说明 参数名称 说明 实例 选择Kafka实例。 Topic 选择Topic。
支持地域 支持在分布式消息服务Kafka版之间创建事件流的地域有:华东-上海一、华东-上海二、华北-北京四、华南-广州、亚太-新加坡、拉美-墨西哥城二。 父主题: 基于Serverless版事件流实现Kafka实例之间的数据同步
取、过滤及转换,并路由至事件目标。源端分布式消息Kafka版生产的消息可以通过事件流这个通道被路由到目标端的分布式消息Kafka版,无需定义事件网格。详情请参见事件流概述。 父主题: 基于Serverless版事件流实现Kafka实例之间的数据同步
方案概述 本文介绍如何通过事件网格服务的事件订阅功能将OBS应用事件源产生的事件路由至分布式消息服务Kafka版。 方案架构 本实践事件订阅架构图如下所示: 当前事件网格服务仅支持华北-北京四、华北-乌兰察布一、华东-上海一、华东-上海二、华南-广州、亚太-新加坡、拉美-墨西哥城二。
前提条件 已开通事件网格服务并授权。 已购买Kafka实例。 已创建分布式消息Kafka版类型的目标连接,具体方式请参考目标连接。 单条消息不超过256KB。 公测期间无商用SLA承诺。 当前暂不支持跨Region、Kafka-OBS(规划中)。 云上云下、跨云厂商需用户侧拉专线。
基于事件订阅将OBS应用事件源消息路由至分布式消息服务Kafka版 方案概述 资源和成本规划 操作流程 实施步骤
实施步骤 创建OBS桶 购买Kafka实例 创建Kafka目标连接 创建事件订阅 发送OBS事件 查看事件消息 父主题: 基于事件订阅将OBS应用事件源消息路由至分布式消息服务Kafka版
已创建虚拟私有云和子网。 已创建安全组。 实践流程 创建事件订阅和事件路由流程如下图所示: 父主题: 基于事件订阅将OBS应用事件源消息路由至分布式消息服务Kafka版
查看事件消息 登录分布式消息服务Kafka版控制台,选择Kafka实例所在的区域。 在“Kafka专享版”页面,单击Kafka实例的名称“eg-kafka”,进入实例详情页面。 选择“消息查询”页签,在消息页签页面,设置查询的Topic名称“topic-eg”、分区以及查询方式。
00.00 分布式消息服务 Kafka版 购买一个Kafka实例,按需计费。 1 例如:kafka.2u4g.cluster 4.35元/小时 事件网格EventGrid 创建一个事件订阅,事件源为OBS应用事件源,事件目标为分布式消息服务Kafka版。 创建一个目标连接,类型为“分布式消息服务
S桶对象名前缀或后缀冲突”错误。 配置事件目标。 配置如下事件目标参数: 选择提供方:华为云 事件目标:分布式消息服务 Kafka版 目标连接:选择“kafka-connect” Topic:选择“topic-eg” 启用消息Key:关闭 规则配置类型:透传。配置转换规则请参考事件内容转换
配置“源端和目标端配置”。 当源端和目标端均为Kafka时: 图3 源端和目标端配置 源端类型:Kafka 目标端类型:Kafka 规格(QPS):选择为2000、5000、9000、15000或>20000。 表2 源端目标端配置参数说明 参数 说明 配置类型 请选择“Kafka地址”或“实例名称”。