已找到以下 10000 条记录
  • Kafka过期数据未老化原因及解决方案

    针对单个Topic过期时间的配置未设置成功查看Kafka中某个Topic过期时间配置是否成功的方式如下:1) Kafka客户端执行kafka-topics.sh --describe --zookeeper ZK业务IP:24002/kafka --topic TopicName  如

    作者: Summer_
    5731
    0
  • 数据库磁盘导致被设置read_only - 云数据库 RDS

    图1 磁盘空间分布 解决方案 随着业务数据的增加,原来申请的数据库磁盘容量可能会不足,建议用户扩容磁盘空间,确保磁盘空间足够。 如果原有规格的磁盘已是最大,请先升级规格。 云盘实例可以设置存储空间自动扩容,在实例存储空间达到阈值时,会触发自动扩容。 针对数据空间过大,可以删除无用的历史表数据。

  • 分层存储救不了Kafka

    彻底解决了原有 Kafka 在成本、弹性等方面的弊病。本文将详细解读 Kafka 存储架构的演进之路以及我们创新的共享存储架构实现背后的思考,希望给读者带来更多现代化流存储系统设计的启发。 02 本地磁盘上过时的Shared Nothing架构 Apache Kafka,作为一

    作者: AutoMQ
    发表时间: 2024-05-11 18:10:55
    19
    0
  • Kafka - MapReduce服务 MRS

    Kafka Kafka jar包冲突列表 Jar包名称 描述 kafka_2.11-*.jar 连接Kafka服务必须的jar包。 kafka-clients-*.jar 连接Kafka服务必须的jar包。 解决方案 Kafka不建议使用开源版本的包。 父主题: MRS应用开发开源jar包冲突列表说明

  • 一文读懂Kafka Connect核心概念

    一旦你完成了所有这些事情,你就编写了一些可能更像 Kafka Connect 的东西,但没有多年的开发、测试、生产验证和社区。 与 Kafka 的流式集成是一个已解决的问题。 可能存在一些适合定制解决方案的边缘情况,但总的来说,您会发现 Kafka Connect 应该是您与 Kafka 集成的第一个有效工具。

    作者: 从大数据到人工智能
    发表时间: 2022-01-15 12:13:04
    842
    0
  • 使用kafka-log4j-appender实现日志采集到kafka

    Console # appender kafka log4j.appender.kafka=org.apache.kafka.log4jappender.KafkaLog4jAppender # 数据发送的topic log4j.appender.kafka.topic=test log4j

    作者: 尘枫
    10452
    3
  • 修改Kafka Topic分区数 - 分布式消息服务Kafka版

    在管理控制台左上角单击,选择Kafka实例所在的区域。 在管理控制台左上角单击,选择“应用中间件 > 分布式消息服务Kafka版”,进入分布式消息服务Kafka专享版页面。 在左侧导航栏单击“Kafka实例”,进入Kafka实例列表页面。 单击Kafka实例的名称,进入实例详情页面。

  • Kafka CPU使用率高排查思路及解决方案

    查看具体的线程二、          Kafka CPU使用率高的常见原因及解决方案1.     集群规划不合理a)    命令grep -c processor /proc/cpuinfo 查看CPU核数,df -h命令查看Kafka磁盘挂载情况,建议每台机器最大挂盘数量 <=

    作者: Summer_
    7890
    1
  • Kafka入门之旅

    6.1 Kafka本地配置如果接受Kafka的默认配置,那么本地运行Kafka需要配置的地方就很少。默认情况下,Kafka使用9092端口,ZooKeeper使用2181端口。假设本地没有应用程序使用这些端口,那么一切就绪了。Kafka将日志写入/tmp/kafka-logs目

    作者: xenia
    发表时间: 2019-09-03 12:54:43
    4846
    0
  • 均衡Kafka扩容节点后数据 - MapReduce服务 MRS

    均衡Kafka扩容节点后数据 操作场景 用户可以在Kafka扩容节点后,在客户端中执行Kafka均衡工具来均衡Kafka集群的负载。 本章节内容适用于MRS 3.x之前版本。3.x及之后版本请参考配置Kafka数据均衡工具。 前提条件 MRS集群管理员已明确业务需求,并准备一个K

  • Kafka安全使用说明

    场景从C60SPC200开始,Kafka提供安全访问接口,同时为了保持向后兼容依然提供非安全访问接口。Kafka API简单说明Kafka访问协议说明Topic的ACL设置针对不同的Topic访问场景,Kafka新旧API使用说明Kafka API简单说明新Producer API指org

    作者: FI小粉丝
    2342
    0
  • kafka介绍与安装

    (就是流处理,通过kafka stream topic和topic之间内部进行变化) 常用的场景将微服务日志输入到kafka中,通过kafka的高速缓存特性降低系统延迟,然后异步消费写入到ELK中。 kafka每条记录中包含一个key,一个value和一个timestamp(时间戳)。

    作者: 琴岛蛏子
    发表时间: 2022-03-20 16:16:00
    688
    0
  • Apache Drill对接FusionInsight Kafka

    ll.apache.org/docs/kafka-storage-plugin/可以知道支持的kafka读取数据结构只能为json:  • 准备topic 登陆对接集群kafka客户端,使用如下命令创建一个新的topic: bin/kafka-topics.sh --create

    作者: 晋红轻
    1974
    0
  • Apache Kafka 3.0.0 正式发布

    Apache Kafka 3.0.0正式发布,Apache Kafka是一个分布式流平台,具有四个核心API。本次更新是一个重要的版本更新,其中包括许多新的功能:对Java 8和Scala 2.12的支持被废弃了;Kafka Raft支持元数据主题的快照,以及self-managed

    作者: 星恒
    573
    4
  • kafka topic面试题

    重启ZooKeeper和集群 2.6. kafka特点 Kafka具有近乎实时性的消息处理能力,面对海量消息也能够高效地存储消息和查询消息。Kafka将消息保存在磁盘中,在其设计理念中并不惧怕磁盘操作,它以顺序读写的方式访问磁盘,从而避免了随机读写磁盘导致的性能瓶颈。 Kafka支持批量读写消息,并

    作者: Rolle
    发表时间: 2024-05-12 15:45:06
    13
    0
  • kafka异常】kafka 常见异常处理方案(持续更新! 建议收藏)

    log.dirs 设置的文件夹重复了;比如: log.dirs=kafka-logs-0,kafka-logs-0 解决方法 检查一下是不是设置重复了 Found directory /xxxx/kafka/kafka-logs-0/test, 'test' is not in

    作者: 石臻臻的杂货铺
    发表时间: 2021-07-30 03:28:07
    4219
    0
  • kafka配置命令

    /export/servers/kafka_2.11-1.0.0/bin/kafka-server-start.sh /export/servers/kafka_2.11-1.0.0/config/server.properties > /dev/null 2>&1 & 关闭 bin/kafka-server-stop

    作者: 百忍成金的虚竹
    发表时间: 2021-03-25 15:09:29
    1447
    0
  • Kafka生产连接失败

    sssd&rdquo;重启进程。如果属组中无kafkaadmin或supergroup或kafka,说明用户没有配置kafka角色,需添加kafka角色信息;如果只有kafka,需要查看该用户是否有topic的生产权限,查看命令如下: kafka-acls.sh --authorizer-properties

    作者: Summer_
    发表时间: 2022-04-28 06:36:37
    695
    0
  • Ambari部署Kafka

    添加kafka service 选择kafka Next 部署kafka HA 选择 ambari-01 &nbsp;ambari-02 &nbsp;ambari-03 ambari-01:2181 next 这里是HBase主堆大小没达到最小设置值,可以不用改,Proceed

    作者: 李子捌
    发表时间: 2021-11-24 12:05:42
    2084
    0
  • 执行Kafka Topic删除操作时发现无法删除 - MapReduce服务 MRS

    231:2181/kafka 可能原因 客户端命令连接ZooKeeper地址错误。 Kafka服务异常Kafka部分节点处于停止状态。 Kafka服务端配置禁止删除。 Kafka配置自动创建,且Producer未停止。 原因分析 客户端命令,打印ZkTimeoutException异常。 [2016-03-09