检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
服务检索日志，或者由Kafka将消息传递给Hadoop等其他大数据应用系统化存储与分析。 图4 日志同步示意图 上图中Logstash、ElasticSearch分别为日志分析和检索的开源工具，Hadoop表示大数据分析系统。
同一个AZ内，Kafka实例通过副本冗余方式实现实例容灾，当检测到leader副本故障后，快速完成副本选主，保障Kafka实例持续提供服务。 数据容灾 通过支持数据多副本方式实现数据容灾。 跨AZ容灾部署架构 DMS for Kafka部署在3个及以上可用区时，可实现跨AZ容灾。 图1 跨AZ部署架构图
data 待同步Kafka数据量 Kafka任务的待同步数据量。 单位：Count ≥ 0 Kafka实例的Smart Connect任务 1分钟 kafka_synchronize_rate Kafka每分钟同步数据量 Kafka任务每分钟同步的数据量。 单位：Count ≥ 0
生产消息数不为0，为什么生产速率为0？ 消息生产速率的原始指标数据为每分钟上报一次，但是它的单位为“个/秒”，所以消息生产速率=一分钟内生产的消息数/60，其值向下取整。当一分钟内生产的消息数小于60个时，生产速率会显示为0。 父主题： 监控告警问题
式： 删除Kafka Topic（控制台） 删除Kafka Topic（Kafka客户端） 约束与限制 删除Topic会导致Topic中的数据也被删除，并且无法找回，同时会影响使用该Topic的相关业务。 已开启密文接入的实例，“allow.everyone.if.no.acl.
磁盘读流量、磁盘写流量、磁盘平均读操作耗时、磁盘平均写操作耗时和CPU使用率这几个监控指标采集的是瞬时值，仅作为系统资源评估参考。它们出现明显波动通常情况下是由于Kafka数据采用异步落盘会消耗磁盘I/O和CPU导致的，这种波动不会对业务产生影响。 父主题： 监控告警问题
(ID)显示的数字表示Coordinator组件所在的代理，消费组的状态如下。 DEAD：消费组内没有任何成员，且没有任何元数据。 EMPTY：消费组内没有任何成员，存在元数据。 PREPARING_REBALANCE：准备开启Rebalance。 COMPLETING_REBALANCE：所有成员加入消费组。
批量重启或删除实例 功能介绍 批量重启或删除实例。 在实例重启过程中，客户端的生产与消费消息等请求会被拒绝。 实例删除后，实例中原有的数据将被删除，且没有备份，请谨慎操作。 调用方法 请参见如何调用API。 URI POST /v2/{project_id}/instances/action
包年/包月Kafka实例到期后会影响Kafka实例正常运行。如果您想继续使用，需要在指定的时间内为Kafka实例续费，否则Kafka实例资源会自动释放，数据丢失且不可恢复。 续费操作仅适用于包年/包月Kafka实例，按需计费Kafka实例不需要续费，只需要保证账户余额充足即可。 Kafka实例
在左侧导航栏单击“Kafka实例”，进入Kafka实例列表页面。 通过以下任意一种方法，进入监控页面。 在Kafka实例名称后，单击“查看监控数据”，进入云监控该实例的监控指标页面。 单击Kafka实例名称，进入实例详情页。在左侧导航栏单击“监控与告警 > 监控详情”，进入监控页面。
SSL链路传输加密方式访问DMS for Kafka 不存储敏感数据 构建数据的恢复和容灾能力 审计是否存在异常数据访问 使用最新版本SDK获得更好的操作体验和更强的安全能力 通过访问控制，保护数据安全性 建议对不同角色的IAM用户仅设置最小权限，避免权限过大导致数据泄露或被误操作。 为了更好的进行权限隔离和
本章节介绍如何使用开源的Kafka客户端访问关闭SASL的Kafka实例的方法。关闭SASL表示客户端访问Kafka实例时，无需进行认证，数据通过明文传输，性能更好。 约束与限制 2020年7月以及之后购买的实例，Kafka实例的每个代理允许客户端单IP连接的个数默认为1000个
接入表示客户端访问Kafka实例时，需要进行SASL认证。如果Kafka安全协议为“SASL_SSL”，客户端和Kafka实例进行通信时，数据使用加密传输，安全性更高。 操作视频 本视频演示客户端连接开启SASL_SSL的Kafka实例的操作。 约束与限制 由于安全问题，2021
退订”，退订成功后，Kafka实例会自动被删除。 删除的实例能否恢复取决于是否开启回收站策略，如果未开启回收站策略，实例删除后，实例中原有的数据将被删除，且没有备份。回收站策略默认关闭，如果需要开启，具体步骤请参见开启回收站策略。 前提条件 Kafka实例状态为运行中、故障、已冻结的按需付费实例才能执行删除操作。
扩容/缩容过程中生产消息失败 可能原因：在扩容/缩容代理规格的过程中，代理采用滚动重启的方式进行实例变更。在重启过程中，分区Leader会进行切换，此时生产客户端的元数据缓存中保存的分区Leader为旧分区Leader ID，仍然会向旧分区Leader发送消息，导致生产消息失败。 解决方法：在生产客户端配置
用批量重启或删除实例。 功能介绍 批量重启或删除实例。 在实例重启过程中，客户端的生产与消费消息等请求会被拒绝。 实例删除后，实例中原有的数据将被删除，且没有备份，请谨慎操作。 URI POST /v1.0/{project_id}/instances/action 参数说明见表1。
会在消费者客户端或Kafka控制台的“消息查询”中观察到消息offset不连续的现象。这是因为开启了幂等或事务后，在生产消息时会产生一些元数据控制消息，这些控制消息也会生产到该Topic中， 且它们对消费者不可见，从而造成offset不连续的现象。 Kafka生产者客户端3.0及
页面支持从以下三个方面对代理中的Topic磁盘使用量进行查询：使用量排名前xx个、使用量达到xx GB和使用占比达xx%。 在页面右上角，单击“查看监控数据”，跳转到云监控服务的监控指标页面。在监控指标页面，您可以查看Kafka实例的各项监控指标。 图1 查看磁盘的使用量 父主题： 管理实例
在左侧导航栏选择“回收站”，进入“回收站”页面。 通过以下任意一种方法，导出实例列表。 勾选待导出的实例，单击“导出 > 导出已选中数据到XLSX”，导出指定实例列表。 单击“导出 > 导出全部数据到XLSX”，导出全部实例列表。 删除回收站中的实例 登录管理控制台。 在管理控制台左上角单击，选择区域。 请选择Kafka实例所在的区域。
迁移分区，将已写满的磁盘中的分区迁移到本节点的其他磁盘中。 合理设置Topic的数据老化时间，减少历史数据的容量大小。 在CPU资源情况可控的情况下，使用压缩算法对数据进行压缩。 常用的压缩算法包括：ZIP，GZIP，SNAPPY，LZ4等。选择压缩算法时，需考虑数据的压缩率和压缩耗时。通常压缩率越高的算法，压缩
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
