已找到以下 10000 条记录
  • Kafka - MapReduce服务 MRS

    Kafka Kafka基本原理 Kafka与其他组件的关系 Kafka开源增强特性 父主题: 组件介绍

  • Kafka修改配置详解

    Kafka修改配置有两个命令:kafka-topics.sh和kafka-configs.sh。kafka-topics.sh主要是修改单个topic的配置,支持修改的配置参数见附录一;kafka-configs.sh支持修改topic、broker、user和client级别的

    作者: Summer_
    5244
    0
  • 管理Kafka Topic中的消息 - MapReduce服务 MRS

    执行以下命令,切换到客户端目录,例如“/opt/client/Kafka/kafka/bin”。 cd /opt/client/Kafka/kafka/bin 执行以下命令,配置环境变量。 source /opt/client/bigdata_env 启用Kerberos认证的

  • 创建Kafka角色

    权限”的表格中选择“待操作集群的名称 > Kafka > Kafka Topic生产和消费权限”。在指定Topic的“权限”列,勾选“Kafka消费者权限”。在“配置资源权限”的表格中选择“待操作集群的名称 > Kafka > Kafka Topic生产和消费权限”。在指定Top

    作者: 晋红轻
    1357
    0
  • Kafka简介

    MQ,它少量代码就可以高效地实现高级应用场景。 3.5 Kafka/Jafka Kafka是Apache下的一个子项目,是一个高性能跨语言分布式发布/订阅消息队列系统,而Jafka是在Kafka之上孵化而来的,即Kafka的一个升级版。具有以下特性: 快速持久化,可以在O(1)的系统开销下进行消息持久化;

    作者: SHQ5785
    发表时间: 2023-12-06 09:41:19
    30
    0
  • Kafka简介

    MQ,它少量代码就可以高效地实现高级应用场景。 3.5 Kafka/Jafka Kafka是Apache下的一个子项目,是一个高性能跨语言分布式发布/订阅消息队列系统,而Jafka是在Kafka之上孵化而来的,即Kafka的一个升级版。具有以下特性: 快速持久化,可以在O(1)的系统开销下进行消息持久化;

    作者: SHQ5785
    发表时间: 2024-05-31 14:45:09
    27
    0
  • Kafka最佳使用实践-Kafka分区散列到新扩容节点

    Rebalance的方法详见对应版本的《容量调整指导书》。以下介绍两种分区扩容的方式。 2.需求描述 Kafka分区扩容操作是集群扩容后的常规操作之一,由于kafka自身机制原理,无法做到自动将扩容后的分区散列到已经扩容的集群中。   Kafka的分区散列原理为:先随机挑选一个节点,然后从这个节点开始顺序的分配每一个分区。如下图:

    作者: FI小粉丝
    发表时间: 2021-06-24 03:21:35
    4197
    0
  • kafka的Docker镜像使用说明(wurstmeister/kafka)

    exec kafka-docker_kafka_2 \ kafka-console-consumer.sh \ --topic topic001 \ --bootstrap-server kafka-docker_kafka_1:9092,kafka-docker_kafka_2:9092

    作者: 程序员欣宸
    发表时间: 2022-07-25 04:48:10
    757
    0
  • Spark 操作 kafka

    利用Receiver接收数据,2.直接从kafka读取数据。 在spark1.3之后,引入了Direct方式。不同于Receiver的方式,Direct方式没有receiver这一层,其会周期性的获取Kafka中每个topic的每个partition中的最新offsets,之后根据设定的max

    作者: 武师叔
    发表时间: 2022-09-29 08:38:03
    173
    0
  • KAFKA EAGLE 监控MRS kafka之操作实践

    1.Kafka Eagle简介 Kafka eagle 是一款分布式、高可用的kafka监控软件,提供丰富的kafka监控指标,例如:Kafka集群的Broker数、Topic数、Consumer数、Topic LogSize Top10、Topic Capacity Top1

    作者: 啊喔YeYe
    发表时间: 2022-12-06 12:33:20
    694
    1
  • 均衡Kafka扩容节点后数据 - MapReduce服务 MRS

    已安装Kafka客户端,客户端安装目录如“/opt/client”。 本示例需创建两个Topic,可参考7,分别命名为“test_2”和“test_3”,并创建“move-kafka-topic.json”文件,创建路径如“/opt/client/Kafka/kafka”,Topic格式内容如下:

  • Kafka实战(七) - 优雅地部署 Kafka 集群

    言归正传,I/O模型与Kafka的关系几何? Kafka Client 底层使用了Java的selector,而selector 在Linux上的实现机制是epoll在Windows平台上的实现机制是select 因此在这一点上将Kafka部署在Linux上是有优势的,能够获得更高效的I/O性能。

    作者: JavaEdge
    发表时间: 2021-06-03 17:27:53
    1538
    0
  • Kafka Manager WebUI的端口能否修改? - 分布式消息服务Kafka版

    Kafka Manager WebUI的端口能否修改? Kafka Manager WebUI的端口不支持修改。 父主题: Kafka Manager问题

  • kafka消费的三种模式_快速认识Kafka

    kreps非常喜欢franz kafka,觉得kafka这个名字很酷,因此将linkedin的消息传递系统命名为完全不相干的kafka,没有特别含义。 2.解决什么问题 kafka开发的主要初衷目标是构建一个用来处理海量日志,用户行为和网站运营统计等的数据处理框架。在结合了数据挖掘,行为分析,

    作者: 多米诺的古牌
    35
    1
  • 修改Kafka Topic分区数 - 分布式消息服务Kafka版

    --partitions 6 [root@ecs-kafka bin]# 已开启密文接入的Kafka实例,通过以下步骤修改Topic分区数。 (可选)修改客户端配置文件。 在Kafka控制台的“基本信息 > 连接信息”中查看Kafka安全协议,两种安全协议对应的配置文件设置有所不同,请根据实际情况配置。

  • 配置Kafka数据均衡工具 - MapReduce服务 MRS

    模式不需要)。 已安装Kafka客户端。 操作步骤 以客户端安装用户,登录已安装Kafka客户端的节点。 切换到Kafka客户端安装目录,例如“/opt/client”。 cd /opt/client 执行以下命令,配置环境变量。 source bigdata_env 执行以下命

  • 配置Kafka用户Token认证信息 - MapReduce服务 MRS

    组件业务用户 执行以下命令,切换到Kafka客户端安装目录。 cd Kafka/kafka/bin 使用kafka-delegation-tokens.sh对Token进行操作。 为用户生成Token: ./kafka-delegation-tokens.sh --create --bootstrap-server

  • Kafka分区未同步排查思路

          Kafka节点服务异常 通过FusionInsight Manager页面,选择“集群->Kafka”,查看当前Kafka集群当前状态,状态是否是良好;如果状态不是良好,说明Kafka服务异常。 2. &nb

    作者: Summer_
    发表时间: 2022-04-28 06:22:14
    1058
    0
  • 使用Kafka客户端

    工具查看帮助并使用。./kafka-console-consumer.sh:Kafka消息读取工具./kafka-console-producer.sh:Kafka消息发布工具./kafka-topics.sh:Kafka Topic管理工具命令具体使用方法可参考《应用开发指南》

    作者: 晋红轻
    1769
    0
  • KafKa - 分区副本ISR选举机制

    一、KafKa分区副本ISR选举机制 kafka 中每一个主题又进一步划分成若干个分区。副本的概念实际上是在分区层级下定义的,每个分区配置有多若干个副本。 所谓的副本,本质上就是一个只能追加写消息的提交日志,根据kafka副本机制的定义,同一个分区下的

    作者: 小毕超
    发表时间: 2022-06-23 14:22:01
    391
    0