检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
在Logstash文件夹根目录打开Git Bash,执行以下命令启动Logstash。 ./bin/logstash -f ./config/output.conf 返回“Successfully started Logstash API endpoint”时,表示启动成功。 图4 启动Logstash 在Logstash中,生产消息,如下图所示。
实例连接地址与端口 实例创建后,从Kafka实例控制台的基本信息页面中获取。 如果Kafka实例为集群部署,至少有3个连接地址,在客户端配置时,建议配置所有的连接地址,提高可靠性。 如果开启公网访问,还可以使用基本信息页面下方的公网连接地址访问Kafka实例。 图1 查看Kafka实例Broker连接地址与端口
权限仅包含DMS ReadOnlyAccess),表示“DMS ReadOnlyAccess”已生效。 在“服务列表”中选择云硬盘(假设当前策略仅包含DMS ReadOnlyAccess),若提示权限不足,表示“DMS ReadOnlyAccess”已生效。 在“服务列表”中选择
kafka.2u4g.cluster.small 3~30 20000 100 15 2000 300~300000 40 kafka.2u4g.cluster 3~30 30000 250 20 2000 300~300000 100 kafka.4u8g.cluster 3~30 100000
/restart-kafka-manager 响应示例 状态码: 200 重启Manager成功。 { "result" : "success", "instance_id" : "605cd78c-92dc-4335-8bae-43677f31fd6c" } SDK代码示例
String 实例ID。 result String 操作结果:success、failed。 响应示例 { "results": [ { "result": "success", "instance": "
实例时选择了多个可用区,当一个可用区异常时,不影响Kafka实例持续提供服务。 审计是否存在异常数据访问 开启云审计服务,记录Kafka的所有访问操作,便于事后审查。 云审计服务(Cloud Trace Service,CTS),是华为云安全解决方案中专业的日志审计服务,提供对各
迁移方案二:同时消费,后迁生产 指消费者业务启用多个消费客户端,分别向原Kafka和新Kafka实例消费消息,然后将生产业务切到新Kafka实例,这样能确保所有消息都被及时消费。 本方案中消费业务会在一段时间内同时消费原Kafka和新Kafka实例。由于在迁移生产业务之前,已经有消费业务运行在新K
bytes、segment.bytes、segment.ms。 具体修改方法如下: 登录Kafka Manager。 单击“kafka_cluster”,进入“Summary”界面。 单击“Topic > List”,进入“Topics”界面。 单击需要修改属性的Topic名称,进入Topic详情界面。
Topic中消息较少或者没有消息时,连接不断开,所有消费者不间断地拉取消息,这样造成了一定的资源浪费。 图1 Kafka消费者多线程消费模式 解决方案 在开了多个线程同时访问的情况下,如果Topic里已经没有消息了,其实不需要所有的线程都在poll,只需要有一个线程poll各分区
“,”分隔。最多输入/选择20个Topic。 在“目标端配置”中,设置以下参数。 表2 目标端参数说明 参数 参数说明 转储启动偏移量 支持以下两种转储启动偏移量: 最早:最小偏移量,即读取最早的数据。 最新:最大偏移量,即获取最新的数据。 数据转储周期 两次转储的时间间隔,单位:秒,默认配置为300秒。
job_id String 后台任务id。 protocol String 开启或者关闭的Kafka接入方式。 enable Boolean 开启动作或者关闭动作。 请求示例 实例第一次开启内网SASL_SSL,需要传入用户名及密码。 POST https://{endpoint}/v
消息的最长保留时间,消费者必须在此时间结束前消费消息,否则消息将被删除。删除的消息,无法被消费。 取值范围:1~720 同步复制 表示后端收到生产消息请求并复制给所有副本后,才返回客户端。 开启同步复制后,需要在生产者客户端的配置文件或者生产代码中配置acks=all或者-1,否则无效。 当副本数为1时,不能选择同步复制功能。
限速,单位为KB/s。-1表示不限速(仅源端类型为Redis时会显示) current_cluster_name String 当前Kafka实例别名。(仅源端类型为Kafka时会显示) cluster_name String 对端Kafka实例别名。(仅源端类型为Kafka时会显示)
2u4g.cluster.small 3~30 20000 100 15 2000 300GB~300000GB 40 kafka.2u4g.cluster 3~30 30000 250 20 2000 300GB~300000GB 100 kafka.4u8g.cluster 3~30
限速,单位为KB/s。-1表示不限速(仅源端类型为Redis时会显示) current_cluster_name String 当前Kafka实例别名。(仅源端类型为Kafka时会显示) cluster_name String 对端Kafka实例别名。(仅源端类型为Kafka时会显示)
消费组管理 查询消费组信息 查询所有消费组 Kafka实例批量删除消费组 创建消费组 重置消费组消费进度到指定位置 查询消费组消息位点 修改所有消费组 查询指定消费组 删除指定消费组 修改指定消费组 查询指定消费组的topic 查询指定消费组的消费成员 父主题: API V2(推荐)
值即是创建上述kafka实例时需要配置的产品ID。 同时,unavailable_zones字段表示资源不足的可用区列表,如果为空,则表示所有可用区都有资源,如果不为空,则表示字段值的可用区没有资源。所以必须确保您购买的资源所在的可用区有资源,不在该字段列表内。 URI GET /v1
态下消费组中的所有消费者都无法进行正常的业务消费,该场景触发场景为消费组内有新的消费者加入或有已经建立连接的消费者退出。 STABILIZED:rebalance完成,消费组处于稳定状态,该状态下消费组中的消费者可以进行正常的业务消费,触发条件是,当前消费组内的所有消费者都同步完
云硬盘(Elastic Volume Service) 云硬盘为云服务器提供块存储服务,Kafka的所有数据(如消息、元数据和日志等)都保存在云硬盘中。 统一身份认证 (Identity and Access Management) 统一身份认证提供了权限管理功能,可以帮助您安全地控制云服务