检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
单击作业“Logs”列的“Logs”，查看并保存Jobmanager日志。 图2 单击“Logs” 单击“Attempt ID”列的ID，单击“Logs”列的“Logs”，查看并保存Taskmanager日志，执行7。 图3 单击“Attempt ID”列的ID 图4 单击“Logs” 使用具有当前Flink作
uper，需要修改为准备好的开发用户。 打包项目 通过IDEA自带的Maven工具，打包项目，生成jar包。具体操作请参考在Linux环境中编包并运行Spark程序。 将打包生成的jar包上传到Spark客户端所在服务器的任意目录（例如“$SPARK_HOME” ）下。 将user
Spark Structured Streaming状态操作样例程序（Scala） 功能介绍 在Spark结构流应用中，跨批次统计每个session期间发生了多少次event以及本session的开始和结束timestamp；同时输出本批次被更新状态的session。 代码样例
Spark Structured Streaming状态操作样例程序（Scala） 功能介绍 在Spark结构流应用中，跨批次统计每个session期间发生了多少次event以及本session的开始和结束timestamp；同时输出本批次被更新状态的session。 代码样例
待操作集群的名称 > 服务 > Loader > 实例”，选择上报告警实例主机名对应的角色，单击图表区域右上角的下拉菜单，选择“定制”，勾选“内存”中的“Loader堆内存使用率”，单击“确定”。 图1 Loader堆内存使用率 查看Loader使用的堆内存是否已达到Loader设定的阈值（默认值为最大堆内存的95%）。
每个消息体（记录）之间的分隔符。 kafka_handle_error_mode 设置为stream，会把每条消息处理的异常打印出来。需要创建视图，通过视图查询异常数据的具体处理异常。 创建视图语句，示例如下： CREATE MATERIALIZED VIEW default.kafka_errors2 ( `topic`
Spark Structured Streaming状态操作样例程序（Scala） 功能介绍 在Spark结构流应用中，跨批次统计每个session期间发生了多少次event以及本session的开始和结束timestamp；同时输出本批次被更新状态的session。 代码样例
Spark Structured Streaming状态操作样例程序（Scala） 功能介绍 在Spark结构流应用中，跨批次统计每个session期间发生了多少次event以及本session的开始和结束timestamp；同时输出本批次被更新状态的session。 代码样例
具体操作可参考安装并使用集群客户端。 例如客户端安装在主管理节点中，安装目录为“/opt/client”。 客户端安装完成后，在客户端内创建“lib”目录，用于放置相关jar包。 将安装客户端过程中解压的目录中Kafka相关jar包复制到“lib”目录。 例如客户端软件包的下载
过HBaseContext的foreachPatition接口将数据并发写入HBase中。 打包项目 通过IDEA自带的Maven工具，打包项目，生成jar包。具体操作请参考在Linux环境中调测Spark应用。 将打包生成的jar包上传到Spark客户端所在服务器的任意目录（例如“$SPARK_HOME”
CPU > 主机CPU使用率”中更改告警的平滑次数，如图1所示。 该选项的含义为告警检查阶段，“平滑次数”为连续检查多少次超过阈值，则发送告警。 图1 设置告警平滑次数 在“主机CPU使用率”界面单击“操作”列的“修改”，更改告警阈值，如图2所示。 图2 设置告警阈值 等待2分钟，查看告警是否自动恢复。
MRS 1.7.1.2 修复问题列表： MRS Manager MRS Manager单击审计日志详细信息下载报错。 MRS Manager界面中主机列表下的磁盘使用率计算优化。 MRS 1.7.1.1 修复问题列表： Kafka组件问题 KAFKA-5413 Kafka日志清理失败：
Flink Kafka样例程序（Scala） 功能介绍 在Flink应用中，调用flink-connector-kafka模块的接口，生产并消费数据。 代码样例 下面列出producer和consumer主要逻辑代码作为演示。 完整代码参见com.huawei.bigdata.flink
状态，使各DataNode磁盘使用率与HDFS集群磁盘使用率的偏差不超过阈值。图1和图2分别是Balance前后DataNode的磁盘使用率变化。 图1 执行均衡操作前DataNode的磁盘使用率 图2 执行均衡操作后DataNode的磁盘使用率 均衡操作时间估算受两个因素影响：
通过HBaseContext的bulkGet接口获取对HBase表上这些rowKey对应的数据。 数据规划 基于BulkPut接口使用章节中创建的HBase表及其中的数据进行操作。 开发思路 创建包含了要获取的rowkey信息的RDD。 以HBaseContext的方式操作HBa
待更新的目标列。 sourceColumn 需在目标表中更新的源表的列值。 sourceTable 将其记录更新到目标CarbonData表中的表。 注意事项 以下是使用UPDATE命令的条件： 如果源表中的多个输入行与目标表中的单行匹配，则UPDATE命令失败。 如果源表生成空记
待更新的目标列。 sourceColumn 需在目标表中更新的源表的列值。 sourceTable 将其记录更新到目标CarbonData表中的表。 注意事项 以下是使用UPDATE命令的条件： 如果源表中的多个输入行与目标表中的单行匹配，则UPDATE命令失败。 如果源表生成空记
涨10倍等场景，可执行以下操作进行调整： 登录FusionInsight Manager，选择“集群 > 服务 > HBase > 图表”，在左侧图表分类中选择“Handler”，查看“RegionServer处理用户表请求的活跃的handler数-所有实例”是否长时间占满，如果
ase表上这些rowKey对应的数据。 打包项目 通过IDEA自带的Maven工具，打包项目，生成jar包。具体操作请参考在Linux环境中调测Spark应用。 将打包生成的jar包上传到Spark客户端所在服务器的任意目录（例如“$SPARK_HOME” ）下。 若运行“Spark
ase表上这些rowKey对应的数据。 打包项目 通过IDEA自带的Maven工具，打包项目，生成jar包。具体操作请参考在Linux环境中编包并运行Spark程序。 将打包生成的jar包上传到Spark客户端所在服务器的任意目录（例如“$SPARK_HOME” ）下。 若运行“Spark
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
