检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Kafka实例支持消息持久化，多副本存储机制。副本间消息同步、异步复制，数据同步或异步落盘多种方式供您自由选择。 集群架构与跨AZ部署，服务高可用 Kafka后台为多集群部署，支持故障自动迁移和容错，保证业务的可靠运行。 Kafka实例支持跨AZ部署，代理部署在不同的AZ，进一步保
例如：“num.partitions”修改为“5”，自动创建的Topic参数值如表1所示。 表1 Topic参数值 参数名称 单机实例默认值 集群实例默认值 集群实例修改后的值 分区数 1 3 5 副本数 1 3 3 老化时间 72小时 72小时 72小时 同步复制 不开启 不开启 不开启 同步落盘
例前，请先创建开启弹性公网IP的ECS、安装JDK、配置环境变量以及下载Kafka开源客户端。 登录管理控制台，在左上角单击，选择“计算 > 弹性云服务器”，创建一个ECS实例。 创建ECS的具体步骤，请参考购买弹性云服务器。如果您已有可用的ECS，可重复使用，不需要再次创建。 使用root用户登录ECS。
获取Kafka命令行工具2.7.2版本。 购买客户端服务器。 购买如下参数的2台ECS服务器，具体步骤请参考购买弹性云服务器。 区域、可用区、虚拟私有云、子网、安全组与Kafka实例保持一致，规格为4U8G，Linux系统的ECS。 区域、虚拟私有云、子网、安全组与Kafka实例保
每个Kafka实例包含3个Zookeeper节点，Zookeeper集群用来管理Kafka实例的配置，如果Zookeeper集群出现问题，Kafka实例将无法正常运行。至少2个Zookeeper节点正常运行，才能保证Zookeeper集群正常运行。 假设选择2个可用区，可用区1有1个Zooke
替换证书将重启实例，请谨慎操作。 前提条件 已准备一台Linux系统的服务器，并安装Java Development Kit 1.8.111或以上版本，配置JAVA_HOME与PATH环境变量。 实例已开启Kafka SASL_SSL。 步骤一：制作证书 登录Linux系统的服务器，执行以下命令，生成server
Kafka监控显示消息堆积数跟实例里的消息数不一致？ 问题现象：监控显示消息堆积数为8.1亿+，Kafka控制台显示实例中6个Topic的消息数总和为1亿+，两者不一致。 问题结论：两者统计方式不同，Kafka控制台显示的消息数为实例中未消费的消息个数，而监控显示的消息堆积数=Topic中的消息积压数*消费组数。
Logstash对接Kafka生产消费消息 方案概述 应用场景 Logstash是免费且开放的服务器端数据处理管道，能够从多个来源采集数据，转换数据，然后将数据发送到指定的存储中。Kafka是一种高吞吐量的分布式发布订阅消息系统，也是Logstash支持的众多输入输出源之一。本章
实例使用类接口 查询分区指定偏移量的消息 查询分区指定时间段的消息 查询分区最新消息的位置 查询分区最早消息的位置 查询Kafka集群元数据信息 查询消费组信息 重置消费组消费进度到指定位置 查询Kafka实例所有消费组对应的协调器信息 查询Kafka实例Topic详细信息 新增Kafka实例指定Topic分区
客户端连接Kafka实例前，需要在Kafka实例所属安全组中配置如下安全组规则，否则会连接失败。 创建安全组后，系统默认添加入方向“允许安全组内的弹性云服务器彼此通信”规则和出方向“放通全部流量”规则，此时使用内网通过同一个VPC访问Kafka实例，无需添加表2的规则。 表2 安全组规则 方向
Kafka实例的SASL_SSL开关如何修改？ 集群实例的SASL_SSL开关支持修改，具体步骤请参考修改实例的接入方式。 单机实例不支持SASL_SSL功能。 开启IPv6的实例不支持动态修改SASL_SSL开关。 父主题： 实例问题
如何查询消息？ Kafka Manager管理 Kafka Manager是开源的Kafka集群管理工具，您可以通过浏览器访问Kafka Manager。在Kafka Manager页面，您可以查看Kafka集群的监控、节点等信息。 支持区域： 全部 连接和查看Kafka Manager 重置Kafka
Kafka客户端所在的IP地址或地址组 使用内网通过同一个VPC访问Kafka实例（开启SSL加密）。 创建安全组后，系统默认添加入方向“允许安全组内的弹性云服务器彼此通信”规则和出方向“放通全部流量”规则，此时使用内网通过同一个VPC访问Kafka实例，无需添加表2的规则。 开启IPv4公网访问（支持修改明文/密文接入）
本信息 > 连接信息”中，获取Kafka实例的连接地址。 consumer-group-name：消费组名称。 示例如下： [root@ecs-kafka bin]# ./kafka-consumer-groups.sh --bootstrap-server 192.168.xx
出源。本章节介绍Logstash如何对接Kafka实例生产消费消息。 使用MirrorMaker跨集群同步数据 使用MirrorMaker可以实现将源集群中的数据镜像复制到目标集群中。本章节介绍两个Kafka实例如何使用MirrorMaker单向或双向同步数据。 消息堆积处理建议
务Kafka版提供的一系列常用实践。 表1 常用最佳实践 实践 描述 使用MirrorMaker跨集群同步数据 使用MirrorMaker可以实现将源集群中的数据镜像复制到目标集群中。 配置消息堆积数监控 介绍如何设置消息组的消息堆积数超过阈值时，消息通知服务及时发送告警短信/邮件通知用户。
Kafka的版本号，支持1.1.0、2.7、3.x。 实例创建后，版本号不支持修改。 部署架构 根据需求选择“单机”或“集群”。 仅2.7版本支持创建单机实例。关于单机实例和集群实例的差异，请参见单机和集群Kafka实例差异概述。 代理规格 请根据业务需求选择相应的代理规格。 单个代理最大分区数*代理数
fka控制台的“基本信息 > 连接信息”中，获取Kafka实例的连接地址。 group-name：消费组名称。 示例如下： [root@ecs-kafka bin]# ./kafka-consumer-groups.sh --bootstrap-server 192.168.xx
Kafka实例的超高IO和高IO如何选择？ 如何选择Kafka实例存储容量阈值策略？ Kafka服务端支持版本是多少？ Kafka实例的ZK地址是什么？ 创建的Kafka实例是集群模式么？ Kafka实例是否支持修改访问端口？ Kafka实例的SSL证书有效期多长？ 如何将Kafka实例中的数据同步到另一个Kafka实例中？
groups?offest={offest}&limit={limit}&group={group} 响应示例 状态码： 200 查询实例集群的所有消费组成功。 { "groups" : [ { "createdAt" : 1691401194847, "group_id"
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
