检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
of strings 开启SASL后使用的认证机制,如果开启了SASL认证功能(即ssl_enable=true),该字段为必选。 若该字段值为空,默认开启PLAIN认证机制。 选择其一进行SASL认证即可,支持同时开启两种认证机制。 取值如下: PLAIN: 简单的用户名密码校验。
中保存的分区Leader为旧分区Leader ID,仍然会向旧分区Leader发送消息,导致生产消息失败。 解决方法:在生产客户端配置重试机制。建议设置retries=Integer.MAX_VALUE 父主题: 实例规格变更问题
broker_total_bytes_in_rate 网络入流量 统计Broker节点每秒网络访问流入流量。 单位:Byte/s 说明: 2020年6月及以后购买的实例,支持此监控项。 0~1000000000 Kafka实例节点 1分钟 broker_total_bytes_out_rate 网络出流量 统计Broker节点每秒网络访问流出流量。
扩容/缩容代理规格的过程中,节点滚动重启造成分区Leader切换,会发生秒级连接闪断,在用户网络环境稳定的前提下,Leader切换时长一般为1分钟以内。多副本的Topic需要在生产客户端配置重试机制,方法如下: 生产客户端为Kafka开源客户端时,检查是否配置retries参数,建议此参数值设置为3~5。
什么是分布式消息服务Kafka版 Kafka是一个拥有高吞吐、可持久化、可水平扩展,支持流式数据处理等多种特性的分布式消息流处理中间件,采用分布式消息发布与订阅机制,在日志收集、流式数据传输、在线/离线系统分析、实时监控等领域有广泛的应用。 华为云分布式消息服务Kafka版是一款基于开源社区版Kafk
SCRAM-SHA-512机制。 sasl_enabled_mechanisms Array of strings 开启SASL后使用的认证机制。 PLAIN: 简单的用户名密码校验。 SCRAM-SHA-512: 用户凭证校验,安全性比PLAIN机制更高。 ssl_two_way_enable
生产者短时间内生产大量消息到Topic,消费者无法及时消费。 消费者的消费能力不足(消费者并发低、消息处理时间长),导致消费效率低于生产效率。 消费者异常(如消费者故障、消费者网络异常等)导致无法消费消息。 Topic分区设置不合理,或新增分区无消费者消费。 Topic频繁重平衡导致消费效率降低。 实施步骤 从消息堆
SCRAM-SHA-512机制。 sasl_enabled_mechanisms Array of strings 开启SASL后使用的认证机制。 PLAIN: 简单的用户名密码校验。 SCRAM-SHA-512: 用户凭证校验,安全性比PLAIN机制更高。 ssl_two_way_enable
检查单条消息的处理时间是多久,处理max.poll.records条消息会不会超过max.poll.interval.ms时间。 消息处理流程是否有网络行为,如写数据库、调用后端API等,在发生Rebalance的场景下消费者下游系统是否正常。 解决方法:建议在消费者客户端将max.poll
subnet_id String 是 子网信息。 获取方法如下: 方法1:登录虚拟私有云服务的控制台界面,单击VPC下的子网,进入子网详情页面,查找网络ID。 方法2:通过虚拟私有云服务的API接口查询,具体操作可参考查询子网列表。 available_zones Array 是 创建节点
单机实例不支持分区平衡。 操作视频 本视频演示修改Kafka实例分区平衡的操作。 操作影响 对数据量大的Topic进行分区平衡,会占用大量的网络和存储带宽,业务可能会出现请求超时或者时延增大,建议在业务低峰期时操作。对Topic进行分区平衡前,根据Kafka实例规格对比当前实例负载
对云服务进行操作。 权限根据授权的精细程度,分为角色和策略。角色以服务为粒度,是IAM最初提供的一种根据用户的工作职能定义权限的粗粒度授权机制。策略以API接口为粒度进行权限拆分,授权更加精细,可以精确到某个操作、资源和条件,能够满足企业对权限最小化的安全管控要求。 DMS for
的AZ中 测试场景三(副本数):相同的Kafka实例,不同的Topic副本数 测试场景四(同步/异步复制):相同的Kafka实例,不同复制机制的Topic 表1 测试参数 分区数 副本数 是否同步复制 batch.size 是否跨AZ生产 3 1 否 1KB 否 3 1 否 16KB
使用MirrorMaker,否则会导致数据在Topic内无限循环复制。 实施步骤 购买一台弹性云服务器,确保弹性云服务器与源集群、目标集群网络互通。具体购买操作,请参考购买弹性云服务器。 登录弹性云服务器,安装Java JDK,并配置JAVA_HOME与PATH环境变量,使用执行用户在用户家目录下修改“
user_name String 对端Kafka用户名。(仅源端类型为Kafka时会显示) sasl_mechanism String 对端Kafka认证机制。(仅源端类型为Kafka时会显示) instance_id String 对端Kafka实例ID。(仅源端类型为Kafka时会显示) bootstrap_servers
printStackTrace(); } } } 消费者线程管理代码示例: 示例仅提供简单的设计思路,开发者可结合实际场景优化线程休眠和唤醒机制。 topicName配置为Topic名称。 package com.huawei.dms.kafka; import java.util
user_name String 对端Kafka用户名。(仅源端类型为Kafka时会显示) sasl_mechanism String 对端Kafka认证机制。(仅源端类型为Kafka时会显示) instance_id String 对端Kafka实例ID。(仅源端类型为Kafka时会显示) bootstrap_servers
为Kafka且对端Kafka认证方式为“SASL_SSL”时需要填写) sasl_mechanism 否 String 对端Kafka认证机制。(仅源端类型为Kafka且“认证方式”为“SASL_SSL”时需要填写) instance_id 否 String 对端Kafka实例I