检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
客户代码里面打包的第三方依赖包和集群包冲突，提交到MRS集群运行失败。 需修改相关的依赖包，并将pom文件中的开源版本的Hadoop包和Flink包的作用域设置为provide，添加完成后重新打包运行任务。 父主题： 作业管理类
在Spark客户端的“spark-defaults.conf”配置文件中进行设置。 表1 参数说明 参数 说明 默认值 spark.ui.retainedDeadExecutors Spark UI页面显示的Lost Executor的最大个数。 100 父主题： Spark运维管理
为Kafka服务端端口。 说明业务层作为客户端连接Kafka获取消息，业务端口分配通过OS的随机端口分配范围来确定。 通过cat /proc/sys/net/ipv4/ip_local_port_range命令查看随机端口范围。 发现随机端口范围过大，和MRS的服务端口范围存在冲突。
在本地开发环境中调测Manager应用 操作场景 在程序代码完成开发后，可以在Windows开发环境中直接运行应用。 如果Windows运行环境中使用IBM JDK，不支持在Windows环境中直接运行应用程序。 操作步骤 在开发环境中（例如IntelliJ IDEA中），分别选中以下两个工程运行程序：
不可与最近N次使用过的密码相同，N为密码策略配置中“重复使用规则”的值。 修改OMS Kerberos管理员用户密码 该操作仅MRS 3.x及之后版本支持。 修改此用户密码将同步修改Kerberos管理员密码。 以omm用户登录任意管理节点。 执行以下命令，切换到目录。 cd ${BIGDATA_HOME}/om-server/om/meta-0
Flink异步Checkpoint Java样例代码 代码样例 假定用户需要每隔1秒钟需要统计4秒中窗口中数据的量，并做到状态严格一致性。 快照数据 该数据在算子制作快照时，用于保存到目前为止算子记录的数据条数。 1 2 3 4 5 6 7 8 9 10 11 12 13 14
Flink开启Checkpoint样例程序（Java） 功能介绍 假定用户需要每隔1秒钟需要统计4秒中窗口中数据的量，并做到状态严格一致性。 代码样例 快照数据 该数据在算子制作快照时用于保存到目前为止算子记录的数据条数。 import java.io.Seriablizale; // 该类作为快照的一部分，保存用户自定义状态
Flink开启Checkpoint样例程序（Java） 功能介绍 假定用户需要每隔1秒钟需要统计4秒中窗口中数据的量，并做到状态严格一致性。 代码样例 快照数据 该数据在算子制作快照时用于保存到目前为止算子记录的数据条数。 import java.io.Seriablizale; // 该类作为快照的一部分，保存用户自定义状态
REFRESH SCHEMA 语法 REFRESH SCHEMA schema_name 描述 用于刷新SCHEMA元数据缓存。 示例 refresh schema default; REFRESH 父主题： HetuEngine辅助命令语法
Hive是一个开源的，建立在Hadoop上的数据仓库框架，提供类似SQL的HiveQL语言操作结构化数据，其基本原理是将HiveQL语言自动转换成MapReduce任务或Spark任务，从而完成对Hadoop集群中存储的海量数据进行查询和分析。 Hive主要特点如下： 通过HiveQL语言非常容易的完成数据提取、转换和加载（ETL）。
SQL查询不到新插入的数据。 对于存储类型为Parquet的Hive分区表，在执行插入数据操作后，如果分区信息未改变，则缓存的元数据信息未更新，导致Spark SQL查询不到新插入的数据。 解决措施：在使用Spark SQL查询之前，需执行Refresh操作更新元数据信息。 REFRESH
如果业务场景需要做小时分区，使用pt_d、pt_h做联合分区键，其中pt_h是整型小时数。 如果保存多年数据，建议考虑使用月做分区，toYYYYMM（pt_d）。 综合考虑数据分区粒度、每个批次提交的数据量、数据的保存周期等因素，合理控制part数量。 父主题： ClickHouse宽表设计
该特性允许用户使用Hudi完成部分列更新。用户可以使用同一主键下的最新数据逐一更新每行数据的不同列字段，直到整条数据完整。 场景说明 当前开源社区提供了PartialUpdateAvroPayload机制实现部分列更新，但该功能在多流更新，每条流更新不同列场景下会出现数据相互覆盖的问题。 通过引入sequenc
Sources”，在弹出的“Select File or Directory to Import”窗口中选择样例代码文件夹。 选择样例工程文件夹中的“pom.xml”文件，根据界面提示，在导入时选择“Import project from external model > Maven
Java样例代码 功能简介 在Spark应用中，通过使用HBase接口来实现创建表，读取表，往表中插入数据等操作。 代码样例 下面代码片段仅为演示，具体代码参见SparkOnHbaseJavaExample： 样例：创建HBase表 public class TableCreation
与普通的视图相比，物化视图会存储实际数据，占用存储资源，并且会有预计算带来的数据滞后性的问题，因此物化视图推荐在如下场景中使用： 执行频次高的查询。 查询包含非常耗时的操作，比如聚合、连接操作等。 对查询结果数据可以允许有一定的滞后性。 物化视图仅支持对接共部署Hive和外接Hive数据源，并且数据源表的存
配置Flink任务进程参数 操作场景 Flink on YARN模式下，有JobManager和TaskManager两种进程。在任务调度和运行的过程中，JobManager和TaskManager承担了很大的责任。 因而JobManager和TaskManager的参数配置对F
Hive表的HDFS目录被误删，但是元数据仍然存在，导致执行任务报错 问题 Hive表HDFS数据目录被误删，但是元数据仍然存在，导致执行任务报错。 回答 这是一种误操作的异常情况，需要手动删除对应表的元数据后重试。 例如： 执行以下命令进入控制台： source ${BIGDA
Admin：Ranger安全管理员，可查看所有页面内容，进行服务权限管理插件及权限访问控制策略的管理操作，可查看审计信息内容，可进行用户类型设置。 Auditor：Ranger审计管理员，可查看服务权限管理插件及权限访问控制策略的内容。 User：普通用户，可以被Ranger管理员赋予具体权限。
过程为： 加载HDFS服务配置文件，并进行kerberos安全认证。 认证通过后，实例化Filesystem。 此处kerberos安全认证需要使用到的keytab文件，请提前准备。 配置文件介绍 登录HDFS时会使用到如表1所示的配置文件。这些文件均已导入到“hdfs-exam
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
