检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
使用Producer API向安全Topic生产消息 功能简介 用于实现Producer API向安全Topic生产消息。 代码样例 以下为用于实现Producer API向安全Topic生产消息的代码片段。 详细内容在com.huawei.bigdata.kafka.example
kafka_skip_broken_messages：Kafka消息解析器对每个块的架构不兼容消息的容忍度，默认值：0。 例如：kafka_skip_broken_messages = N，则引擎会跳过N条无法解析的Kafka消息。 父主题： 使用ClickHouse
与左表关联。 关联键group_id改变导致“-D”和“+I”乱序，下游根据user_id哈希时虽然进入同一并行度，但是“+I”消息先到，“-D”消息后到，最终写入宽表时记录就会被删除。 优化前SQL： select... from t1 left join t2 on t2.user_id
Kafka是一个分布式的消息发布-订阅系统。它采用独特的设计提供了类似JMS的特性，主要用于处理活跃的流式数据。 Kafka有很多适用的场景：消息队列、行为跟踪、运维数据监控、日志收集、流处理、事件溯源、持久化日志等。 Kafka有如下几个特点： 高吞吐量 消息持久化到磁盘 分布式系统易扩展
API订阅安全Topic并消费 功能介绍 用于实现使用Consumer API订阅安全Topic，并进行消息消费。 代码样例 以下为用于实现使用Consumer API订阅安全Topic，并进行消息消费的代码片段。 详细内容在com.huawei.bigdata.kafka.example.Consumer类中。
API使用样例 功能介绍 Producer是消息生产者的角色，负责发布消息到Kafka Broker。 下面代码片段在com.huawei.bigdata.kafka.example.Old_Producer类中，作用在于每秒向指定的Topic发送一条消息。（注意：Old Producer
过分隔符分隔，转换出新的字段。 取模转换：取模运算步骤，配置已生成的字段通过取模，转换出新的字段。 剪切字符串：字符串截取步骤，配置已生成的字段通过指定位置截取，转换出新的字段。 EL操作转换：计算器，可以对字段值进行运算，目前支持的算子有：md5sum、sha1sum、sha256sum和sha512sum等。
Kafka是一个分布式的消息发布-订阅系统。它采用独特的设计提供了类似JMS的特性，主要用于处理活跃的流式数据。 Kafka有很多适用的场景：消息队列、行为跟踪、运维数据监控、日志收集、流处理、事件溯源、持久化日志等。 Kafka有如下几个特点： 高吞吐量 消息持久化到磁盘 分布式系统易扩展
(ms)/CPU time spent (ms)<10%。 主要通过如下参数进行调整。 参数入口： 进入Yarn服务参数“全部配置”界面，在搜索框中输入参数名称。具体操作请参考修改集群服务配置参数章节。 建议配置“mapreduce.map.java.opts”参数中“-Xmx”值为“mapreduce
数据迁移到MRS前信息收集 由于离线大数据搬迁有一定的灵活性，迁移前需要掌握现有集群的详细信息，以能够更好的进行迁移决策。 业务信息调研 大数据平台及业务的架构图。 大数据平台和业务的数据流图（包括峰值和均值流量等）。 识别平台数据接入源、大数据平台数据流入方式（实时数据上报、批量数据抽取）、分析平台数据流向。
如何避免Kerberos认证过期？ 对于JAVA应用 在连接HBase、HDFS或者其他大数据组件前，先调用loginUserFromKeytab()创建UGI，然后启动一个定时线程进行检查是否过期并在过期前重新登录。 private static void startCheck
Kafka是一个分布式的消息发布-订阅系统。 它采用独特的设计提供了类似JMS的特性，主要用于处理活跃的流式数据。 Kafka有很多适用的场景：消息队列、行为跟踪、运维数据监控、日志收集、流处理、事件溯源、持久化日志等。 Kafka有如下几个特点： 高吞吐量 消息持久化到磁盘 分布式系统易扩展
stats统计了最近各个不同时间段的算子之间发送数据的总数据量。 Spouts中统计了spout算子从启动到现在发送的消息总量。Bolts中统计了Count算子和split算子的发送消息总量，如图2所示。 图2 Storm应用程序算子发送数据总量 父主题： 调测Storm应用
postinstall.log 服务安装日志。 prestart.log prestart脚本日志。 start.log 启动日志。 FlinkServer服务日志、审计日志。 FlinkServer服务日志、审计日志默认100MB滚动存储一次，服务日志最多保留30天，审计日志最多保留90天。
Hive JDBC访问样例程序 Hive JDBC样例程序开发思路 创建Hive表 加载数据到Hive表中 查询Hive表数据 实现Hive进程访问多ZooKeeper 使用JDBC接口提交数据分析任务 父主题： 开发Hive应用
拼接转换：拼接已有字段，生成新字段。 分隔转换：将已有字段，按指定分隔符，分隔出新字段。 取模转换：对已有字段取模，生成新字段。 剪切字符串：通过指定起始位置，截取已有字符串类型的字段，生成新字段。 EL操作转换：指定算法，对字段值进行运算，目前支持的算法有：md5sum、sha1sum、sha256sum和sha512sum等。
拼接转换：拼接已有字段，生成新字段。 分隔转换：将已有字段，按指定分隔符，分隔出新字段。 取模转换：对已有字段取模，生成新字段。 剪切字符串：通过指定起始位置，截取已有字符串类型的字段，生成新字段。 EL操作转换：指定算法，对字段值进行运算，目前支持的算法有：md5sum、sha1sum、sha256sum和sha512sum等。
采集数据时报错HoodieException 问题 数据采集时报错： com.uber.hoodie.exception.HoodieException: created_at(Part -created_at) field not found in record. Acceptable
API订阅安全Topic并消费 功能简介 用于实现使用Consumer API订阅安全Topic，并进行消息消费。 代码样例 以下为用于实现使用Consumer API订阅安全Topic，并进行消息消费的代码片段。 详细内容在com.huawei.bigdata.kafka.example.Consumer类中。
API订阅安全Topic并消费 功能简介 用于实现使用Consumer API订阅安全Topic，并进行消息消费。 代码样例 以下为用于实现使用Consumer API订阅安全Topic，并进行消息消费的代码片段。 详细内容在com.huawei.bigdata.kafka.example.Consumer类中。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
