-
约束与限制 - 分布式消息服务Kafka版
是否支持Kerberos认证 不支持 客户端单IP连接数 2020年7月以及之后购买的实例,Kafka实例的每个代理允许客户端单IP连接的个数默认为1000个,在此之前购买的实例,Kafka实例的每个代理允许客户端单IP连接的个数默认为200个,如果超过了,会出现连接失败问题。 Topic 表2 Topic约束与限制
-
优化消费者轮询(Polling) - 分布式消息服务Kafka版
置合适的值即可。但是这样的长连接可能会对客户端和服务端造成一定的压力,特别是分区数较多且每个消费者开启多个线程的情况下。 如图1所示,Topic含有多个分区,消费组中有多个消费者同时进行消费,每个线程均为长连接。当Topic中消息较少或者没有时,连接不断开,所有消费者不间断地拉取消息,这样造成了一定的资源浪费。
-
Kafka相关概念 - 分布式消息服务Kafka版
从Topic(消息主题)订阅消息的一方。订阅消息最终目的在于处理消息内容,如日志集成场景中,监控告警平台(消费者)从主题订阅日志消息,识别出告警日志并发送告警消息/邮件。 代理(Broker) 即Kafka集群架构设计中的单个Kafka进程,一个Kafka进程对应一台服务器,因此手册中描述
-
创建Kafka Topic - 分布式消息服务Kafka版
说明 Topic名称 系统为您自动生成了Topic名称,您可以根据需要修改。 创建Topic后不能修改名称。 分区数 您可以设置Topic的分区数,分区数越大消费的并发度越大。 该参数设置为1时,消费消息时会按照先入先出的顺序进行消费。 取值范围:1~200 默认值:3 副本数 您
-
Kafka客户端参数配置建议 - 分布式消息服务Kafka版
结合实际业务调整 设置一个请求最大等待时间(单位为ms),超过这个时间则会抛Timeout异常。 超时时间如果设置大一些,如127000(127秒),高并发的场景中,能减少发送失败的情况。 block.on.buffer.full TRUE TRUE TRUE表示当我们内存用尽时,停止接收新消息记录或者抛出错误。
-
Kafka实例查询Topic - 分布式消息服务Kafka版
topic名称。 replication Integer 副本数,配置数据的可靠性。 partition Integer topic分区数,设置消费的并发数。 retention_time Integer 消息老化时间。 sync_replication Boolean 是否开启同步复
-
如何查看堆积消息数? - 分布式消息服务Kafka版
“消费组”选择待查看堆积消息数的消费组名称,“队列”选择“全部队列”,“消费组可消费消息数”表示此消费组中所有Topic的堆积消息数之和。查看监控数据的具体步骤,请参考查看监控数据。 在云监控页面的“消费组”页签中,“消费组”选择待查看堆积消息数的消费组名称,“队列”选择“全部
-
Kafka实例创建Topic - 分布式消息服务Kafka版
Boolean 是否使用同步落盘。默认值为false。同步落盘会导致性能降低。 partition 否 Integer topic分区数,设置消费的并发数。取值范围:1-200。 sync_replication 否 Boolean 是否开启同步复制,开启后,客户端生产消息时相应的也
-
快速连接Kafka并生产消费消息 - 分布式消息服务Kafka版
_connect-configs _connect-offsets 创建Topic后不能修改名称。 topic-01 分区数 设置Topic的分区数。 如果分区数与消费者数一致,分区数越大消费的并发度越大。 该参数设置为1时,消费消息时会按照先入先出的顺序进行消费。 3 副本数 设置Topic副本的
-
分布式消息服务Kafka版 - 分布式消息服务Kafka版
为什么限制Topic的总分区数? 为什么不支持减少分区数? 是否支持自动生成Topic功能? 删除Topic不生效是什么原因? 更多 Kafka连接 Kafka是否支持kerberos认证? Kafka连接问题排查和解决 客户端单IP连接的个数为多少? 连接Kafka Manager的操作
-
业务过载处理建议 - 分布式消息服务Kafka版
该磁盘上的分区副本不可读写,降低了分区的可用性和容错能力。同时由于Leader分区迁移到其他节点,会增加其他节点的负载。 CPU使用率高的原因 数据操作相关线程数(num.io.threads、num.network.threads、num.replica.fetchers)过多,导致CPU繁忙。
-
业务数据不均衡处理建议 - 分布式消息服务Kafka版
在实际业务过程中可能会遇到各节点间或分区之间业务数据不均衡的情况,业务数据不均衡会降低Kafka集群的性能,降低资源使用率。 业务数据不均衡原因 业务中部分Topic的流量远大于其他Topic,会导致节点间的数据不均衡。 生产者发送消息时指定了分区,未指定的分区没有消息,会导致分区间的数据不均衡。 生产者发送消息时
-
配置Kafka监控告警 - 分布式消息服务Kafka版
作,请参考变更实例规格。 broker_cpu_core_load CPU核均负载 告警阈值:原始值>2 连续触发次数:3 告警级别:重要 该指标为从Kafka节点虚拟机层面采集的CPU每个核的平均负载。 出现该告警时,先检查该监控是否长期处于接近或超过告警阈值状态,如果是,需要
-
配置Kafka间的数据复制 - 分布式消息服务Kafka版
Topic名称以internal结尾时(例如:topic.internal),此Topic的数据不会被同步。 任务数 数据复制的任务数。默认值为2,建议保持默认值。 如果“同步方式”为“双向”,实际任务数=设置的任务数*2。 重命名Topic 在目标Topic名称前添加源端Kafka实例的别名,形成目标T
-
Kafka扩容/缩容会影响业务吗? - 分布式消息服务Kafka版
也不受影响。 扩容基准带宽/代理数量时,系统会根据当前磁盘大小进行相应比例的存储空间扩容。例如扩容前实例的代理数为3,每个代理的磁盘大小为200GB,扩容后实例的代理数为10,此时代理的磁盘大小依旧为200GB,但是总磁盘大小为2000GB。 新创建的Topic才会分布在新代理上
-
购买Kafka实例 - 分布式消息服务Kafka版
公网访问 明文接入 明文接入表示客户端连接Kafka实例时,无需进行SASL认证。 开启/关闭明文接入,并设置公网访问连接地址。 密文接入 密文接入表示客户端连接Kafka实例时,需要进行SASL认证。 开启/关闭密文接入,并设置公网访问连接地址。 开启“密文接入”后,需要设置kafka安全协议、SASL
-
分布式消息服务Kafka版 - 分布式消息服务Kafka版
全部 购买Kafka实例 连接Kafka 开源Kafka客户端向Kafka实例生产消息和消费消息前,需要先连接Kafka实例。 创建Kafka实例时,支持开启或者关闭SASL_SSL。开源Kafka客户端连接开启SASL_SSL的Kafka实例,与连接未开启SASL_SSL的Ka
-
变更Kafka实例规格 - 分布式消息服务Kafka版
也不受影响。 扩容基准带宽/代理数量时,系统会根据当前磁盘大小进行相应比例的存储空间扩容。例如扩容前实例的代理数为3,每个代理的磁盘大小为200GB,扩容后实例的代理数为10,此时代理的磁盘大小依旧为200GB,但是总磁盘大小为2000GB。 新创建的Topic才会分布在新代理上
-
测试Kafka实例TPS - 分布式消息服务Kafka版
测试场景三(是否同步落盘):相同的实例,不同落盘机制的Topic 测试场景四(不同磁盘类型):相同的Topic,不同磁盘类型的实例 测试场景五(不同分区数):相同的实例,不同分区数的Topic 测试环境 进行TPS测试前,您需要先构建如下的测试环境: 购买如表1所示实例,购买步骤请参考购买Kafka实例。
-
Kafka数据迁移概述 - 分布式消息服务Kafka版
将生产客户端的Kafka连接地址修改为新Kafka实例的连接地址。 重启生产业务,使得生产者将新的消息发送到新Kafka实例中。 观察各消费组在原Kafka的消费进度,直到原Kafka中数据都已经被消费完毕。 将消费客户端的Kafka连接地址修改为新Kafka实例的连接地址。 重启消费业