检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
9011 Kafka客户端所在的IP地址或地址组 使用DNAT访问Kafka实例(密文接入和明文接入都适用)。 父主题: 配置Kafka网络连接
连接实例 配置Kafka网络连接 配置Kafka访问控制 配置Kafka客户端 使用客户端连接Kafka(关闭SASL) 使用客户端连接Kafka(开启SASL) 使用控制台连接Kafka
配置Kafka网络连接 连接Kafka网络要求 配置Kafka实例的公网访问 使用VPCEP实现跨VPC访问Kafka 使用DNAT实现公网访问Kafka 父主题: 连接实例
解决方案:用户重新创建Topic或者打开自动创建Topic开关。 Go客户端常见报错 使用GO客户端无法连接Kafka SSL,报“first record does not look like a TLS handshake”错误。 解决方案:go默认是关闭的,2021年1月前创建的实例,需要打开TLS_
0/17网段的地址,以及VPC终端节点涉及的子网。 198.19.128.0/17是为VPC终端节点分配的网段,使用VPC终端节点需要放通此网段。 父主题: 配置Kafka网络连接
关闭IPv6公网访问 将Kafka实例的IPv6地址从共享带宽中移出,具体请参考从共享带宽中移出弹性公网IP。 父主题: 配置Kafka网络连接
使用客户端连接Kafka(关闭SASL) 本章节介绍如何使用开源的Kafka客户端访问关闭SASL的Kafka实例的方法。关闭SASL表示客户端访问Kafka实例时,无需进行认证,数据通过明文传输,性能更好。 约束与限制 2020年7月以及之后购买的实例,Kafka实例的每个代理
57:9011”。 在Kafka实例安全组的入方向规则中放通9011端口。 连接Kafka实例的客户端已开启公网访问功能。 父主题: 配置Kafka网络连接
使用客户端连接Kafka(开启SASL) 本章节介绍如何使用开源的Kafka客户端访问开启密文接入的Kafka实例的方法。密文接入表示客户端访问Kafka实例时,需要进行SASL认证。如果Kafka安全协议为“SASL_SSL”,客户端和Kafka实例进行通信时,数据使用加密传输,安全性更高。
Kafka实例是否支持跨VPC访问? Kafka实例支持跨VPC访问,您可以通过以下任意一个方式实现跨VPC访问: 创建VPC对等连接,将两个VPC的网络打通,实现跨VPC访问。具体步骤请参考VPC对等连接说明。 利用VPC终端节点在不同VPC间建立跨VPC的连接通道,实现Kaf
首先在分布式消息服务Kafka版控制台,单击Kafka实例名称,进入实例详情页。在“基本信息”页面的“连接信息”区域,关闭“公网访问”,然后重新打开“公网访问”,并选择需要绑定的公网IP地址。 父主题: 实例问题
\src\test\java\com\dms\producer 生产消息的测试代码。 pom.xml .\ maven配置文件,包含Kafka客户端引用。 打开IntelliJ IDEA,导入Demo。 Demo是一个Maven构建的Java工程,因此需要配置JDK环境,以及IDEA的Maven插件。
jdk-8u321-linux-x64.tar.gz “jdk-8u321-linux-x64.tar.gz”为JDK的版本,请根据实际情况修改。 打开“.bash_profile”文件。 vim ~/.bash_profile 添加如下内容。 export JAVA_HOME=/root/jdk1
如果需要了解Kafka output Plugin的其他参数,请参见Kafka output Plugin。 在Logstash文件夹根目录打开Git Bash,执行以下命令启动Logstash。 ./bin/logstash -f ./config/output.conf 返回“Successfully
extend_times Integer 实例扩容磁盘次数,如果超过20次则无法扩容磁盘。 enable_auto_topic Boolean 是否打开Kafka自动创建Topic功能。 true:开启 false:关闭 total_storage_space Integer 总共消息存储空间,单位:GB。
消息,每条都commit,则commit请求TPS是消费的1000倍,消息体越小,这个比例越大。建议隔一定条数或时间,批量commit,或打开enable.auto.commit,这样设置会存在一个缺点,即在客户端故障时,可能丢失一部分缓存的消费进度,导致重复消费。请根据业务实际情况,设置批量commit。
启用的安全协议 密文接入开启后,才显示此参数。 公网访问 开关是否打开 是否开启公网访问。 明文接入 公网访问开关打开后,才显示此参数。 是否开启明文接入。 公网明文连接地址 明文接入开启后,才显示此参数。 密文接入 公网访问开关打开后,才显示此参数。 是否开启密文接入。 单机实例不支持开启密文接入。
如果开启了公网访问功能(即enable_publicip为true),该字段为必选。 ssl_enable Boolean 否 是否打开SSL加密访问。 true:打开SSL加密访问。 false:不打开SSL加密访问。 retention_policy String 否 磁盘的容量到达容量阈值后,对于消息的处理策略。取值如下:
概述 Kafka实例完全兼容开源Kafka协议,可以直接使用kafka开源客户端连接。如果“kafka安全协议”设置为“SASL_SSL”,则在开源客户端基础上使用云服务提供的证书文件。 本指南主要介绍实例连接信息的收集,如获取实例连接地址、Topic名称等,然后提供Java、Python和Go等语言的连接示例。
可能会导致源端和目标端每个分区的消费进度存在0-100之间的差异。 迁移准备 配置网络环境。 Kafka实例分内网地址以及公网地址两种网络连接方式。如果使用公网地址,则消息生成与消费客户端需要有公网访问权限,并配置如下安全组。 表1 安全组规则 方向 协议 端口 源地址 说明 入方向