检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
WARN表示当前事件处理存在异常信息。 INFO INFO表示记录系统及各事件正常运行状态信息。 DEBUG DEBUG表示记录系统及系统的调试信息。 如果您需要修改日志级别，请执行如下操作： 请参考修改集群服务配置参数，进入Storm的“全部配置”页面。 左边菜单栏中选择所需修改的角色所对应的日志菜单。
Connection connection = null; try { // 获取JDBC连接 // 第二个参数需要填写正确的用户名，否则会以匿名用户(anonymous)登录 connection = DriverManager.getConnection(url
DATABASE CREATE DATABASE dbname [LOCATION "hdfs_path"] 如果指定了HDFS路径hdfs_path，需要是路径hdfs_path的所有者和具有RWX权限。 DROP DATABASE dbname 拥有数据库dbname的所有权。 ALTER
MultiComponentLocalRunner.main()”运行应用工程。 如果集群开启了ZooKeeper SSL，则运行该样例前，需要检查配置文件mapred-site.xml（准备运行环境中样例工程的“conf”配置文件目录中获取）的配置项“mapreduce.admin
found”参数为“true”，重启Kafka服务。 采用具有权限用户登录。 例如： kinit test_user 或者赋予用户相关权限。 需要使用Kafka管理员用户（属于kafkaadmin组）操作。 例如： kafka-acls.sh --authorizer-properties
bigdata_env 在该目录下用hdfs用户进行命令行认证。 kinit hdfs kinit一次票据时效24小时。24小时后再次运行样例，需要重新执行kinit命令。 进入“/opt/client/HDFS/hadoop/hdfs-c-example”目录下，运行如下命令导入C客户端环境变量。
配置Spark动态脱敏 Spark Distinct聚合优化 配置Spark作业失败时清理残留文件 配置Spark加载第三方jar包，用于注册UDF或者扩展SparkSQL 父主题： 使用Spark/Spark2x
application队列名称。 user String 提交application的用户名称。 resource_request object 当前所需要的资源，包括vcores、内存等。 resource_inuse object 当前所使用的资源，包括vcores、内存等。 resource_reserved
且目标集群和源集群都开启了Kerberos认证，需配置跨集群互信。 如果使用Import/Export命令导入导出其他用户创建的表或分区，需要授予用户对应表的权限： 集群未启用Ranger鉴权，需登录FusionInsight Manager授予该用户所属角色对应表的“Selec
application队列名称。 user String 提交application的用户名称。 resource_request object 当前所需要的资源，包括vcores、内存等。 resource_inuse object 当前所使用的资源，包括vcores、内存等。 resource_reserved
kafka_row_delimiter 每个消息体（记录）之间的分隔符。 kafka_handle_error_mode 设置为stream，会把每条消息处理的异常打印出来。需要创建视图，通过视图查询异常数据的具体处理异常。 创建视图语句，示例如下： CREATE MATERIALIZED VIEW default
Streaming中常见的类有： JavaStreamingContext：是Spark Streaming功能的主入口，负责提供创建DStreams的方法，入参中需要设置批次的时间间隔。 JavaDStream：是一种代表RDDs连续序列的数据类型，代表连续数据流。 JavaPairDStream：KV
复制解压目录下的“hosts”文件中的内容到本地hosts文件中，确保本地机器能与解压目录下“hosts”文件中所列出的各主机在网络上互通。 在本实践中，需要确保本地环境与MRS集群所在网络平面互通，通常可以通过绑定EIP的方式访问MRS集群，具体操作请参考配置Windows通过EIP访问集群Hive。
task异常导致Shuffle FetchFailed Executor进程Crash导致Stage重试 执行大数据量的shuffle过程时Executor注册shuffle service失败 在Spark应用执行过程中NodeManager出现OOM异常 安全集群使用HiBench工具运行sparkbench获取不到realm
task异常导致Shuffle FetchFailed Executor进程Crash导致Stage重试 执行大数据量的shuffle过程时Executor注册shuffle service失败 在Spark应用执行过程中NodeManager出现OOM异常 父主题： Spark常见问题
Streaming中常见的类有： JavaStreamingContext：是Spark Streaming功能的主入口，负责提供创建DStreams的方法，入参中需要设置批次的时间间隔。 JavaDStream：是一种代表RDDs连续序列的数据类型，代表连续数据流。 JavaPairDStream：KV
MapReduce任务提交Java示例程序。 本工程提供了一个MapReduce统计数据的应用开发示例，实现数据分析、处理，并输出满足用户需要的数据信息。 另外以MapReduce访问HDFS、HBase、Hive为例，介绍如何编写MapReduce作业访问多个服务组件。帮助用户理解认证、配置加载等关键使用方式。
会消耗一定的时间，添加该参数可限制重写所带来的性能损耗，物化视图重写超时后会执行原始SQL。 若使用Session级别开启物化视图功能，并需要开启物化视图重写超时控制，可先执行set session materialized_view_rewrite_timeout = 5。 参数添加完成后，
ZooKeeper和HBase的关系所示。 图1 HBase和ZooKeeper的关系 HRegionServer以Ephemeral node的方式注册到ZooKeeper中。其中ZooKeeper存储HBase的如下信息：HBase元数据、HMaster地址。 HMaster通过ZooK
Streaming中常见的类有： JavaStreamingContext：是Spark Streaming功能的主入口，负责提供创建DStreams的方法，入参中需要设置批次的时间间隔。 JavaDStream：是一种代表RDDs连续序列的数据类型，代表连续数据流。 JavaPairDStream：KV
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
